XMOS запускает Xcore.ai: низкозатратный кроссовер-процессор для ИИ-выводов на краю

БРИСТОЛЬ, Великобритания — XMOS переработала ядро процессора Xcore для машинного обучения, запустив Xcore.ai, кроссовер-процессор для AIoT-устройств. Цена от всего $1, чип обещает высокую производительность вывода в компактном, низкопотребляющем корпусе.

Xcore.ai представляет третье поколение продуктов XMOS на проприетарной архитектуре Xcore. Он разработан для ИИ-вывода и принятия решений в реальном времени на краевых устройствах, одновременно обрабатывая сигналы, управление и коммуникации.

В отличие от предыдущих итераций, третье поколение включает векторный конвейер, поддерживающий нагрузки машинного обучения. Это единственный кроссовер-процессор такого рода, который нативно запускает бинаризованные (1-бит) нейронные сети — новую технологию, дающую порядки прироста производительности и плотности памяти для ультра-низкопотребляющего краевого ИИ, при незначительной потере точности. Xcore.ai также поддерживает 32-бит, 16-бит и 8-бит типы данных.

Xcore.ai входит в новый класс ИИ-способных систем-на-чипе для конечных точек — кроссовер-процессор (Изображение: XMOS)

Xcore.ai входит в новый класс конечных процессоров с ИИ-возможностями, известных как кроссовер-процессоры. Термин, введенный NXP, описывает устройства, сочетающие производительность приложений процессора с низким потреблением и работой в реальном времени микроконтроллера.

«Клиенты часто рассматривают микроконтроллеры как Cortex-M0, M3 или M4 чипы под 75 центов, выдающие ~100 MIPS. SoC, с другой стороны, могут иметь четырехъядерные A53 на гигагерц. Существует значительная пропасть между этими крайностями — особенно для голосовых нагрузок, требующих тысяч MIPS. Этот средний ярус заслуживает своего имени», — сказал Марк Липпетт, CEO XMOS, в эксклюзивном интервью EETimes.

Голосовые интерфейсы

Второе поколение XVF3510 XMOS, запущенное в июле 2019, — это ASIC для голосовых интерфейсов на той же архитектуре Xcore. Референс-решения на базе XVF3510 уже квалифицированы для Amazon Alexa Voice Service.

Учитывая опыт XMOS в голосе, чип Xcore.ai изначально будет нацелен на голосовые интерфейсы, требующие ИИ для обнаружения ключевых слов или динамических словарей.

«Голос остается наиболее критической ИИ-нагрузкой на краю, и так вероятно останется на годы», — сказал Липпетт. «Для улучшения голосового опыта устройства станут все более мультимодальными, интегрируя дополнительные датчики для контекста — такие как обнаружение присутствия человека или направления их речи».

Марк Липпетт (Изображение: XMOS)

«Существует много возможностей улучшить пользовательский опыт, слушая за аудио и используя мультимодальные данные», — добавил он.

Требования конфиденциальности, безопасности и безопасности часто диктуют обработку на конечной точке. Липпетт привел пример приборов, использующих голос и радар для отключения духовки, когда на кухне присутствуют только дети.

Для поддержки быстрой разработки Xcore.ai будет поставляться с библиотеками для создания голосовых интерфейсов, предлагая гибкость для кастомных решений. Также доступен MIPI интерфейс для камерного ввода.

Архитектура Xcore

Чип Xcore.ai выдает до 3200 MIPS, 51,2 GMACCs и 1600 MFLOPS. Включает 1 МБ встроенной SRAM и низкопотребляющий DDR интерфейс для расширения.

По сравнению с сопоставимым Cortex-M7 устройством на аналогичной частоте, XMOS заявляет, что Xcore.ai дает 32× производительность ИИ и 15× DSP производительность.

«На конечном рынке цена-производительность первостепенна», — подчеркнул Липпетт. «Мы агрессивно ценим Xcore.ai в $1 в объемах. Примерно половина стоимости сопоставимого Cortex-M7, он предлагает драматическое преимущество в производительности».

Xcore основан на логических ядрах, расположенных в плитках с памятью, ALU и векторными блоками (Изображение: XMOS)

Xcore.ai построен на проприетарной архитектуре Xcore XMOS. Ядро состоит из логических ядер, которые могут быть назначены на I/O, DSP, контроль или ИИ функции. Каждая плитка содержит восемь логических ядер, две плитки на чип, и общую память, ALU и векторный блок.

«Что отличает Xcore — это предсказуемое разделение ресурсов», — объяснил Липпетт. «Архитектура многоядерная не только для ускорения нагрузок, но для выделения ресурсов критическим функциям, обеспечивая детерминированное тайминг».

Отображение отдельных функций на логические ядра в прошивке позволяет создать «виртуальный SoC», полностью программно-определенный. Например, одно ядро может обрабатывать I²S, I²C и драйверы LED, в то время как другие обрабатывают нейронные сети и выполняют традиционные программные задачи. Этот программно-центрический подход ускоряет разработку, удовлетворяет динамические требования IoT и снижает затраты — позволяя экономичные решения даже в нишевых рынках.

Пример приложения, отображенного на устройстве Xcore.ai (Изображение: XMOS)

«Рынок требует более широкого набора функций, и компании должны быстро реагировать», — сказал Липпетт. «Создание универсальной платформы, которая может не подойти ни к одному сегменту, рискованно. С Xcore.ai производители могут быстро запускать устройства с меньшими CAPEX и делать меньшие, более целевые ставки».

Как XMOS будет конкурировать с крупными производителями микроконтроллеров, входящими в пространство кроссовер-процессоров?

«Мы не будем реплицировать ARM-базированные SoC», — сказал Липпетт. «Единственный способ конкурировать — через архитектурное преимущество — производительность и гибкость, присущие Xcore».