Дебют наборов для разработки нейроморфных вычислений

BrainChip, поставщик IP-устройств для нейроморфных вычислений, во время недавней конференции Linley Fall Processor Conference представил два набора средств разработки для своего нейроморфного процессора Akida. Оба набора содержат нейроморфную SoC компании Akida:комплект для разработки ПК Shuttle x86 и комплект Raspberry Pi на базе Arm. BrainChip предлагает инструменты разработчикам, работающим с его мощным процессором нейронной сети, в надежде получить лицензию на его IP. Также доступен силикон Akida.

Нейроморфные технологии BrainChip позволяют использовать ИИ со сверхнизким энергопотреблением для анализа данных в периферийных системах, где требуется обработка данных датчиков в режиме реального времени с очень низким энергопотреблением. Компания разработала блок нейронной обработки (NPU), предназначенный для обработки пиков нейронных сетей (SNN), нейронной сети, основанной на мозге, которая отличается от основных подходов к глубокому обучению. Как и мозг, SNN полагается на «шипы», которые передают информацию пространственно и во времени. То есть мозг распознает как последовательность, так и время всплесков. Пики, называемые «областью событий», обычно возникают в результате изменений в данных датчика (например, изменения цвета пикселей в камере, основанной на событиях).

Наряду с SNN, блоки NPU BrainChip также могут обрабатывать сверточные нейронные сети (CNN), подобные тем, которые обычно используются в алгоритмах компьютерного зрения и определения ключевых слов, с меньшей мощностью, чем другие периферийные реализации. Это делается путем преобразования CNN в SNN и выполнения логического вывода в домене событий. Этот подход также позволяет осуществлять обучение на кристалле на периферии, качество SNN, которое может быть распространено на преобразованные CNN.

Платы для разработки BrainChip доступны для ПК с шаттлом x86 или Raspberry Pi. (Источник:BrainChip)

Akida «готова к нейроморфной технологии завтрашнего дня, но она решает сегодняшнюю проблему, заключающуюся в том, чтобы сделать логический вывод нейронных сетей возможным на периферийных устройствах и устройствах Интернета вещей», - сказал EE Times соучредитель BrainChip и главный директор по развитию Анил Манкар. .

Преобразование из CNN в область событий выполняется потоком программных инструментов BrainChip, MetaTF. Данные можно преобразовать в пики, а обученные модели можно преобразовать для работы на NPU BrainChip.

«Наше программное обеспечение времени выполнения устраняет опасения, связанные с вопросами« Что такое SNN? »И« Что такое область событий? », - сказал Манкар. «Мы делаем все, чтобы это скрыть.

«Люди, знакомые с TensorFlow или Keras API ... могут взять приложение, которое они запускают на [другом оборудовании], в той же сети, в том же наборе данных, с нашим обучением с учетом квантования, и запустить его на нашем оборудовании и самостоятельно измерить мощность и посмотрим, какая будет точность ».

По словам Манкара, CNN особенно хороши в извлечении функций из больших наборов данных, и преобразование в область событий сохраняет это преимущество. Операция свертки выполняется в области событий для большинства слоев, но последний слой заменяется. Замена его слоем, распознающим входящие всплески, дает обычному CNN возможность обучаться через пластичность, зависящую от времени всплеска, на краю, исключая повторное обучение в облаке.

В то время как собственные SNN (написанные с нуля для области событий) могут использовать однобитную точность, преобразованные CNN требуют 1-, 2- или 4-битных всплесков. Инструмент квантования BrainChip помогает дизайнерам решить, насколько агрессивно квантовать на послойной основе. Компания Brainchip провела квантование MobileNet V1 для классификации из 10 объектов с точностью предсказания 93,1% после квантования до 4 бит.

Побочным продуктом преобразования в область событий является значительная экономия энергии из-за разреженности. Ненулевые значения карты активации представлены как 1–4-битные события, а NPU выполняет вычисления только для событий, а не для всей карты активации.

Разработчики «могут смотреть на веса и видеть ненулевые веса и стараться избегать умножения на нулевые веса», - сказал Манкар. «Но это означает, что вы должны знать, где находятся нули, и требуются вычисления» для этих операций.

Для типичного CNN карта активации будет меняться с каждым видеокадром, поскольку функции ReLU сосредоточены вокруг нуля - обычно половина активаций будет равна нулю. Не создавая пиков из этих нулей, вычисления в области событий ограничиваются ненулевыми активациями. Преобразование CNN для работы в домене событий может повысить разреженность, быстро сократив количество операций MAC, необходимых для вывода, и, следовательно, потребляемую мощность.

К функциям, которые можно преобразовать в область событий, относятся свертка, точечная свертка, свертка по глубине, максимальное объединение и глобальное среднее объединение.

Операции MAC, необходимые для вывода классификации объектов (темно-синий - CNN в не-событийной области, голубой - это область событий / Akida, зеленый - это область событий с дальнейшей регуляризацией активности). (Источник:BrainChip)

В одном примере модель определения ключевых слов, работающая на плате разработки Akida после 4-битного квантования, потребляла всего 37 мкДж на вывод (или 27 336 выводов в секунду на ватт). Точность предсказания составила 91,3%, и чип был замедлен до 5 МГц для достижения наблюдаемой производительности. (см. график ниже).

Независимость от сенсора

IP-адрес NPU от BrainChip и чип Akida не зависят от типа сети и могут использоваться вместе с большинством датчиков. Одно и то же оборудование может обрабатывать изображения и аудиоданные с помощью преобразования CNN или SNN BrainChip для обонятельного, вкусового и вибро / тактильного восприятия.

NPU сгруппированы в узлы по четыре, которые обмениваются данными через ячеистую сеть. Каждый NPU включает в себя обработку и 100 КБ локальной SRAM для параметров, активаций и внутренних буферов событий. Сетевые уровни CNN или SNN назначаются комбинации нескольких NPU, передавая события между уровнями без поддержки ЦП. (Хотя сети, отличные от CNN, могут быть преобразованы в домен событий, Манкар сказал, что для работы на Akida требуется центральный процессор.)

IP-адрес NPU BrainChip может быть настроен для 20 узлов, а более крупные сети можно запускать в несколько проходов в проектах с меньшим количеством узлов.

Узлы четырех NPU BrainChip соединены ячеистой сетью. (Источник:BrainChip)

Видео BrainChip показало чип Akida, установленный в системе салона автомобиля, с одним чипом, который используется для обнаружения водителя, распознавания лица водителя и определения его голоса одновременно. Для распознавания ключевых слов требовалось 600 мкВт, для распознавания лиц - 22 мВт, а визуальный вывод слова, использовавшийся для обнаружения драйвера, составлял 6–8 мВт.

"Низкое энергопотребление таких автомобильных платформ дает автопроизводителям гибкость в других областях", - сказал Роб Тельсон, вице-президент BrainChips по международным продажам, добавив, что микросхема Akida основана на 28-нм техпроцессе Taiwan Semiconductor Manufacturing Co. «Клиенты IP могут перейти на узлы с более тонкой обработкой, чтобы сэкономить больше энергии», - добавил Тельсон.

Между тем, системы распознавания лиц могут узнавать новые лица прямо на чипе, не переходя в облако. Умный дверной звонок может, например, идентифицировать лицо человека на месте с помощью однократного обучения. При условии, что последнему слою сетей назначено достаточное количество нейронов, общее количество распознаваемых лиц может быть увеличено с 10 до более чем 50, отметил Манкар.

Клиенты с ранним доступом

В BrainChip работает 55 сотрудников в Алисо-Вьехо, Калифорния, головном офисе и конструкторских бюро в Тулузе, Франция, Хайдарабаде, Индия, и Перте, Австралия. Компания имеет 14 патентов и торгуется на австралийской фондовой бирже и внебиржевой бирже США.

По словам Тельсона, около 15 клиентов раннего доступа, включая НАСА. Другие включают автомобильную, военную, аэрокосмическую, медицинскую (обонятельное обнаружение Covid-19) и компании бытовой электроники. BrainChip нацелен на такие потребительские приложения, как умное здоровье, умный город, умный дом и умный транспорт.

Другой ранний заказчик - компания Renesas, специализирующаяся на микроконтроллерах, которая, по словам Тельсона, лицензировала двухузловой Akida NPU IP для интеграции с будущим микроконтроллером, предназначенным для анализа данных датчиков при развертывании Интернета вещей.

Akida IP и кремний уже доступны.

>> Эта статья изначально была опубликована на нашем дочернем сайте EE Times.

---

Связанное содержание:

• Startup упаковывает 1000 ядер RISC-V в чип AI-ускорителя.
• ИИ-чип предназначен для периферийных устройств с низким энергопотреблением.
• SoC с поддержкой AI обрабатывают несколько видеопотоков.
• Обеспечение безопасности AI SoC с использованием функций ЦП с расширениями
• Архитектура микроконтроллеров развивается для ИИ

Чтобы получить больше информации о Embedded, подпишитесь на еженедельную рассылку Embedded по электронной почте.