ИИ предсказывает, насколько быстро компьютерные чипы выполнят код

• Новый инструмент машинного обучения предсказывает, сколько времени потребуется компьютерному чипу для выполнения определенного кода.
• Она более точна, чем собственная модель прогнозов Intel.

Определение количества тактовых циклов, необходимых процессору для выполнения блока инструкций сборки в установившемся состоянии, имеет решающее значение как для инженеров по производительности, так и для разработчиков компиляторов.

Разработка аналитической модели для этого - чрезвычайно сложная задача, особенно в современных архитектурах процессоров, где задача становится более подверженной ошибкам и должна выполняться с нуля для каждого поколения процессоров.

Теперь исследователи Массачусетского технологического института создали инструмент машинного обучения, который автоматизирует этот процесс, делая его быстрее, проще и точнее, чем современные рукописные инструменты, которые в настоящее время используются в статических анализаторах машинного кода и серверных модулях компиляторов.

Они описали этот новый конвейер машинного обучения в трех докладах на конференции:

1. Ithemal:модель нейронной сети обучается на базовых блоках помеченных данных (блоках вычислительных инструкций). Затем он прогнозирует, сколько времени требуется микропроцессору для запуска необработанных базовых блоков.

2. BHive:для проверки Ithemal исследователи создали набор тестов для базовых блоков из различных областей, таких как криптография, компиляторы, машинное обучение и графика. Они собрали более 300 000 блоков и поместили их в BHive, набор данных с открытым исходным кодом.

Тестирование показало, что Ithemal может предсказать, насколько быстро процессоры Intel будут выполнять код более точно, чем модель производительности, разработанная самой Intel.

3. Вемал:исследователи создали новый метод для автоматического создания алгоритма под названием Вемал, который преобразует определенный код в векторы, чтобы его можно было подать в суд для параллельных вычислений.

Vemal работает лучше, чем созданные вручную алгоритмы векторизации, используемые в промышленных компиляторах, включая компилятор LLVM.

Использование данных вместо документации чипа

Intel действительно предоставляет подробную документацию, объясняющую архитектуру своего чипа. Но только некоторые опытные разработчики создают модели производительности для имитации выполнения кода на этих архитектурах. А поскольку эти микросхемы являются собственностью компании, Intel опускает определенную информацию в документации.

Исследователи измерили среднее количество циклов, которое требуется чипу для выполнения базовых блочных инструкций (таких как выполнение определенной команды, выключение и перезагрузка) с помощью нейронной сети.

Источник:MIT

Нейронная сеть автоматически профилирует миллионы блоков и постепенно изучает, как разные архитектуры процессора запускают код. Проще говоря, исследователи использовали модель искусственного интеллекта для анализа данных, не обращая внимания на документацию чипа.

Ithemal принимает в качестве входных данных невидимые базовые блоки и генерирует единственное число, показывающее, сколько времени потребуется данному процессору для выполнения этого кода.

Во второй статье исследователи продемонстрировали, что Ithemal работает лучше, чем традиционные модели ручной работы. В то время как коэффициент ошибок модели прогнозирования Intel составлял 20%, коэффициент ошибок Ithemal составлял 10% для различных базовых блоков в разных доменах.

Модель можно легко обучить на новых архитектурах:просто соберите больше данных с этого чипа, прогоните их через профилировщик и используйте эту информацию для обучения Ithemal. Вот и все; Теперь модель готова к оценке производительности. Он может определять скорости производительности для любой процессорной архитектуры, включая новый модуль обработки тензорных блоков Google.

Читайте:Facebook создает «SapFix»:инструмент искусственного интеллекта для отладки кода

Однако исследователи до сих пор не знают, как эта модель делает прогнозы, поскольку машинное обучение - это черный ящик. В следующем исследовании они попытаются изучить методы, которые могут интерпретировать эти модели.