Расширенная проверка:открывая дверь в новую эру чипов AI

"Привет, Siri, какой сегодня прогноз погоды?"

Поскольку наша повседневная жизнь по-прежнему зависит от Siri и других помощников с искусственным интеллектом (ИИ) в предоставлении таких удобных услуг, как воспроизведение песен и отслеживание расписания встреч, не секрет, что становится все труднее защищать личные данные. С ростом ИИ и надвигающейся угрозой потери данных для разработчиков микросхем как никогда важно совершенствовать методы искусственного интеллекта и безопасности, чтобы не отставать от насущного спроса на дополнительные интеллектуальные возможности.

Но в сегодняшнюю эпоху интеллектуального все приложения, требующие интенсивных вычислений, которые включают в себя методы искусственного интеллекта, такие как глубокое обучение (DL) и машинное обучение (ML), требуют собственных специализированных микросхем с хорошо продуманным дизайном для поддержки интеллектуальных функций. От автономных транспортных средств до высокопроизводительных вычислений (HPC), лежащая в основе технология, управляющая этими интенсивными рабочими нагрузками, зависит от продвинутых архитектур, которые соблюдают тонкий баланс между сильным ударом в силовом отделе и улучшением возможностей принятия решений.

По мере того как все больше интеллектуальных устройств подключаются к облаку, у ИИ появляется все больше возможностей для экспоненциального развития и создания разнообразных рыночных возможностей. Однако производители микросхем должны помнить, что ключевые части вычислений ИИ должны выполняться на аппаратном уровне, чтобы имитировать реальные условия. Поэтому нестандартные «микросхемы ИИ» не только предпочтительны, но и необходимы для масштабной интеграции ИИ с минимальными затратами.

Но, учитывая, что текущее поколение микросхем для приложений AI / ML / DL содержит сложные пути данных для точного выполнения необходимого арифметического анализа, отрасль должна быть готова к внедрению передовых методов проверки, чтобы развиваться и подпитывать следующий шаг AI.

Почти все создают чипы

В мире проектирования микросхем не секрет, что с насыщением закона Мура становится все труднее добиться желаемого прироста производительности от универсальных процессоров. Чтобы смягчить это замедление, компании, выходящие за рамки традиционных производителей полупроводников, вкладывают свою шляпу в кольцо дизайна микросхем.

Чтобы назвать несколько из этих компаний, крупные игроки, такие как Google, Amazon и Facebook, сейчас активно инвестируют в разработку собственных специализированных микросхем ASIC (интегральных схем для конкретных приложений) для поддержки своего уникального программного обеспечения AI и удовлетворения конкретных приложений. требования. Это последующее расширение рынка открывает множество возможностей для новых средств проектирования и решений для поддержки современной требовательной среды проектирования микросхем.

Конструкция ИИ-микросхемы:разные пути управления

Решающим фактором в инвестициях в новые системы искусственного интеллекта (SoC) является возможность одновременного выполнения многозадачных вычислений в распределенном режиме (вместо ограниченного параллелизма, предлагаемого традиционными процессорами). Конструкция, необходимая для выполнения этих задач, включает в себя блоки с большим объемом данных, состоящие из пути управления, в котором конечный автомат обрабатывает выходные данные на основе определенных входных данных, а также вычислительный блок, состоящий из арифметической логики для обработки данных. Используя эти функции, разработчики микросхем могут значительно ускорить идентичные, предсказуемые и независимые вычисления, необходимые для алгоритмов ИИ.

Несмотря на то, что блок арифметических вычислений обычно не является проблемой, сложность значительно возрастает по мере одновременного увеличения количества арифметических блоков и битов, что создает дополнительную нагрузку на группы проверки.

За последнее десятилетие вычисления, ориентированные на данные, вышли за рамки ограничительных возможностей ПК и серверов. Даже в простом случае 4-битного умножителя необходимо записать тестовые векторы для всех возможных комбинаций входных данных, чтобы проверить его полную функциональность, т. Е. 2 ⁴ =16. В этом и заключается проблема:когда дело доходит до проверки реалистичных сценариев современных микросхем ИИ, командам необходимо проверять сумматоры с 64-битными входами. Другими словами, 2 ⁶⁴ государства нуждаются в верификации - достижение, на которое с использованием классических подходов потребуются годы. Это лишь один изолированный пример многих возможностей, но поскольку внедрение микросхем ИИ быстро расширяется, а объем генерируемых данных продолжает расти, трудоемкие проблемы, связанные с проверкой оборудования, делают потребность в современных, безопасных и гибких решениях для проверки критически важными. .

Окончательный тест:проблемы с проверкой

Когда команды разрабатывают микросхемы искусственного интеллекта, используется C / C ++, быстрый и широко используемый алгоритм проектирования. После того, как функциональный код написан, информацию необходимо перевести в более аппаратно-ориентированное представление с использованием RTL (язык передачи регистров). Этот процесс требует, чтобы команды либо разработали тестовые векторы для всех возможных комбинаций, либо сравнили, соответствует ли RTL исходной архитектурной модели C / C ++, что часто оказывается довольно пугающей задачей.

Здесь в игру вступает формальная проверка. С помощью этого метода выполняется математический анализ для одновременного рассмотрения всей конструкции оборудования. Хотя тестовые векторы обычно необходимо писать для каждой входной комбинации, формальная проверка предоставляет канал для проверки на соответствие набору утверждений, определяющих предполагаемое поведение, с помощью средств проверки модели.

Даже несколько лет назад было бы немыслимо думать, что формальная проверка может быть широко используемым методом просто из-за требуемых утверждений высокого уровня. Но перенесемся в сегодняшний день, и средний разработчик RTL или инженер по верификации сможет быстро и эффективно освоить профессиональные приемы.

Однако, учитывая растущие масштабы и сложность современных микросхем искусственного интеллекта, невозможно полностью подтвердить простую проверку модели. Проверка этих математических функций с использованием традиционных методов, а не современных, неэффективна, требует много времени и в конечном итоге непрактична в долгосрочной перспективе.

Приложениям AI и ML нужна дополнительная помощь

Использование других форм формальной проверки (например, проверки эквивалентности) предоставляет инженерам надежную систему для проверки даже самых сложных каналов данных ИИ. В процессе проверки эквивалентности сравниваются два представления проекта, и либо доказывается, что они эквивалентны, либо выявляются конкретные различия между ними. Эти достаточно мощные формальные механизмы обеспечивают большую поддержку в процессе проверки, поскольку два представления могут находиться на совершенно разных уровнях абстракции и даже быть написаны на разных языках.

Давайте сравним подробную реализацию RTL в микросхеме с высокоуровневой архитектурной моделью C / C ++. Сравнение подтверждает, что один и тот же набор входных данных дает одинаковые выходные данные для обоих представлений. Этот эффективный метод естественным образом подходит для многих проектов искусственного интеллекта, поскольку в большинстве из них уже есть модели C / C ++, доступные для проверки результатов при моделировании или как часть виртуальной платформы для поддержки ранней разработки и тестирования программного обеспечения.

Несмотря на быстрый рост приложений ИИ, формальная проверка эквивалентности - единственная технология, которая может обеспечить исчерпывающую проверку путей проектных данных по проверенной эталонной модели. Чтобы помочь искусственному интеллекту, пока не сдерживавшемуся эволюцией, инструменты проверки нуждаются в следующих характеристиках:простота использования, возможность масштабирования и расширенные возможности отладки.

На горизонте:гомоморфное шифрование

Поскольку отрасль продолжает производить триллионы байтов данных, которые требуют высокопроизводительных микросхем для поддержки этого вычислительного подвига, прогноз увеличения количества битов неизбежен. Университеты и исследовательские организации по всему миру изучают возможности работы с большими объемами входных данных и разрабатывают планы на случай непредвиденных обстоятельств для разработки микросхем, которые могут поддерживать этот приток.

Но с этим потоком данных возникает потребность в аппаратной безопасности. Гомоморфное шифрование станет неотъемлемой частью головоломки AI / ML. Этот тип шифрования дает разработчикам микросхем возможность шифровать данные и выполнять те же арифметические вычисления, которые требуются системе ИИ, без их дешифрования, и, таким образом, снижает риск утечки данных. Чтобы повысить качество результатов и повысить продуктивность разработки микросхем ИИ с помощью этой системы шифрования, потребуются инструменты следующего поколения.

Edge AI приведет к бурному развитию вычислений с большим объемом данных в реальном времени

Беспилотный автомобиль, врезавшийся в незамеченное препятствие, ни у кого нет в списке желаний. Это только один пример катастрофы, которую микросхемы ИИ могут вызвать, если конструкции не будут полностью проверены. По мере роста спроса на рынке на расширение возможностей ИИ в вычислительных приложениях, новые периферийные устройства ИИ приведут к взрывному росту вычислений с большим объемом данных в реальном времени и изменят подход производителей микросхем к разработке полупроводников, что приведет к повышению производительности, сокращению времени выполнения работ и улучшению проверки. решения.

Рассвет мира, основанного на искусственном интеллекте, быстро приближается и еще более доступен, чем когда-либо прежде. Но сможем ли мы работать на инновационном колесе хомяка достаточно долго, чтобы это произошло? Только время покажет.