Чип AI поддерживает логический вывод в устройствах со сверхмалым энергопотреблением

ЛОНДОН. Следующее поколение ускорителя искусственного интеллекта GreenWaves со сверхнизким энергопотреблением, GAP9, будет потреблять в пять раз меньше энергии, чем его предшественник, GAP8, при обработке алгоритмов, которые в 10 раз больше. Новое устройство будет предлагать до 50 GOPS при общей потребляемой мощности 50 мВт. Это связано с комбинацией архитектурных улучшений и новой современной технологией процесса FD-SOI (полностью обедненный кремний на изоляторе).

Как и устройство предыдущего поколения, GAP9 нацелен на логический вывод ИИ в системах на самом краю сети, таких как небольшие сенсорные узлы IoT с батарейным питанием. В качестве примера, по данным GreenWaves, GAP9 использует MobileNet V1 для изображений 160 x 160 с масштабированием канала 0,25 всего за 12 мс и потребляемой мощностью 806 мкВт / кадр / секунду.

Компания GreenWaves из Гренобля, Франция, выбрала 22-нанометровый процесс FDX FD-SOI от GlobalFoundries, чтобы минимизировать энергопотребление того, что уже было архитектурой со сверхнизким энергопотреблением.

«Для GAP9 мы настроили архитектуру GAP8 с учетом отзывов клиентов о GAP8, но в то же время мы перешли на лидирующий на рынке полупроводниковый процесс», - сказал Мартин Крум, вице-президент по маркетингу GreenWaves. «Мы используем возможность смещения тела в FD-SOI, чтобы добиться еще более низкого энергопотребления».

Архитектурные улучшения

GreenWaves сделала несколько архитектурных улучшений для GAP9.

Было добавлено еще одно ядро ​​RISC-V, в результате чего общее количество достигло 10. Одно ядро ​​используется как контроллер фабрики, а также для вычислений с низкой интенсивностью в определенных режимах. Остальные девять составляют вычислительный кластер с общей областью данных L1. Одно ядро ​​в этом кластере (новое) используется как мастер группы задач, вычисляя перемещения памяти и управляя задачами на других восьми ядрах.

Объем внутренней оперативной памяти увеличен до 1,6 МБ, а пропускная способность памяти увеличена до 41,6 ГБ / с для L1 и 7,2 ГБ / с для L2.

«Эта [пропускная способность памяти] сейчас очень важна для устройств класса MCU», - сказал Крум.

Архитектура ИИ-чипа GAP9 со сверхнизким энергопотреблением GreenWaves теперь использует 10 ядер RISC-V (Изображение:GreenWaves)

Изменения в архитектуре GAP9 также включают гораздо более высокую максимальную частоту; GAP8 работает на частоте 175 МГц, GAP9 будет работать на частоте 400 МГц или близко к ней. Также были добавлены новые состояния мощности, в том числе состояние «дремоты», когда данные могут быть получены, но потребляемая мощность все еще ниже 1 мВт. В этом состоянии процессор может работать от регулятора с малым падением напряжения (LDO), который может быстро запускаться. Это сокращает время GAP9 до первой инструкции до нескольких микросекунд (GAP8 потребовалось около 700 мкс, пока он ждал стабилизации преобразователя постоянного тока в постоянный, сказал Крум). Эта возможность быстрого запуска полезна при захвате временных сигналов, таких как речь.

Все десять ядер теперь способны обрабатывать числа с плавающей запятой «transprecision»:16-битный формат IEEE и 32-битный формат с плавающей запятой плюс дополнительные 8- и 16-битные форматы с поддержкой векторизации. Эта возможность может использоваться для снижения требований к энергии для алгоритмов, требующих вычислений с плавающей запятой. GAP9 также поддерживает векторизованные 4-битные и 2-битные операции для приложений, использующих глубокие уровни квантования.

Другие новые функции включают двунаправленные многоканальные аудиоинтерфейсы.

Ожидается, что GAP9 выйдет в массовое производство в 2021 году, а образцы появятся в первой половине 2020 года. Крум сказал, что цена, как ожидается, будет с 50% -ной надбавкой по сравнению с GAP8. Учитывая разные сроки, показатели мощности и ценовую категорию, компания ожидает, что оба продукта найдут рынок сбыта в будущем.