AImotive запускает aiWare3P нейросетевой ускоритель для высокопроизводительного автомобильного зрения

Венгерская AImotive, лидер в автомобильных ИИ-решениях, начала отгрузку своего aiWare3P neural network (NN) inference engine интеллектуальной собственности (IP) ключевым клиентам. Ядро aiWare3P, анонсированное в прошлом году, доставляет целевой ускоритель для высокоразрешающего автомобильного зрения и полностью соответствует требованиям сертификации ISO26262 ASIL A, B и выше.

IP доступен как полностью синтезируемый RTL-блок, который может быть интегрирован в system-on-chip (SoC) или развернут как автономный ускоритель. Его низкоуровневая микроархитектура потребляет гораздо меньше хост-CPU и shared-memory ресурсов чем конкурирующие GPU-базированные или SoC решения, обеспечивая более низкую задержку и высокую детерминированность для реальных автомобильных нагрузок.

Выделенные NN-ускорители вроде aiWare3P IP используемые в различных частях платформы автомобильной электроники (Источник: AImotive)

«Большинство вендоров чипов обсуждают ускорители в академических терминах, не переводящихся в производство», — объясняет Тони-Кинг Смит, исполнительный советник AImotive. «Наш дизайн устраняет DSP и network-on-chip (NoC) сложность, фокусируясь исключительно на автомобильном inference. Это дает ультра-низкую задержку от входа к выходу и освобождает хост CPU для других задач».

Ядро aiWare3P доставляет до 16 TMAC/s (>32 TOPS) на ядро на 2 ГГц, с multi-core и multi-chip конфигурациями достигающими 50+ TMAC/s (>100 INT8 TOPS). Эти цифры поддерживают multi-камерные и гетерогенные сенсорные платформы, общие в L2, L2+ и L3 автономном вождении.

Построенное к AEC-Q100 extended-temperature спецификациям, ядро включает фичи, облегчающие ASIL-B и выше сертификацию. Его запатентованный ground-up дизайн доставляет высоко детерминированное управление dataflow и до 100× больше on-chip памяти bandwidth чем другие ускорители, достигая 95% устойчивой эффективности на сложных глубоких нейросетях (DNN) с большими HD входами.

aiWare SDK поддерживает Khronos NNEF и ONNX форматы, компилируя бинарники напрямую без низкоуровневого DSP или MCU программирования. Оно предлагает автоматизированную FP32-to-INT8 квантизацию с минимальной потерей точности и набор инструментов анализа производительности DNN, позволяя инженерам бесшовно переводить lab-trained модели в production автомобильное железо.

Строительные блоки автомобильного ИИ-ускорителя, включая aiWare hardware IP (Источник: AImotive)

Старший вице-президент Hardware Engineering Мартон Фехер заявляет: «aiWare3P объединяет всё, чему мы научились об ускорении нейросетей для vision-based автомобильного ИИ. Теперь это одно из самых эффективных решений отрасли для массового производства L2/L2+/L3 ИИ».

Клиенты уже развертывают aiWare3P в production L2/L2+ платформах и исследуют продвинутый гетерогенный сенсорный фьюжн. Заметные партнеры включают Nextchip, интегрирующую ядро в свой Apache5 Imaging Edge Processor, и ON Semiconductor, сотрудничающую на совместной демонстрации sensor fusion возможностей.

AImotive опубликует обновленные бенчмарк-результаты в Q1 2020, подчеркивая реалистичные высокоразрешающие камерные входы над синтетическими 224×224 тестами, подчеркивая свою приверженность прозрачным, application-centric данным производительности.

Без вмешательства хост-CPU

Новые фичи поддерживают более широкий портфолио предоптимизированных встроенных активаций и pooling функций, позволяя 100% большинства NN запускаться полностью внутри aiWare3P ядра. Реально-временное сжатие данных снижает потребности во внешней памяти bandwidth, и cross-coupling между C-LAM convolution engines и F-LAM function engines улучшает overlapped и interleaved исполнение эффективность.

Tile-базированная микроархитектура упрощает физическую реализацию на любом процессном узле облегчая timing constraints. Логическое tile-базированное управление данными масштабирует нагрузки до максимума ядра 16 TMAC/s без кэшей, NoC или других power-heavy multi-core подходов, которые типично препятствуют детерминизму и кремниевой площади.

RTL для aiWare3P будет доступен всем клиентам с января 2020 года, сопровождаемый улучшенным SDK с улучшенными компиляторами и реально-временными fine-grained hardware анализ инструментами.