Платформы Edge AI превосходят GPU / CPU по производительности и эффективности

Предлагая то, что он называет прорывом в вычислительном оборудовании и программном обеспечении искусственного интеллекта (ИИ) для периферийных приложений ИИ и преодоление устаревших ограничений графического / центрального процессора, Blaize анонсировал новые встроенные и ускорительные платформы, Pathfinder и Xplorer, которые обеспечивают разработку периферийного ИИ без кода. .

Платформы построены на архитектуре процессора потоковой передачи графов (GSP) Blaize. По заявлению компании, с 16 ядрами GSP и производительностью логического вывода AI 16TOPS в диапазоне мощности 7 Вт GSP может обеспечить до 60 раз большую эффективность на системном уровне по сравнению с графическими / центральными процессорами для периферийных приложений AI. Это также обеспечивает в 50 раз меньшую пропускную способность памяти и в 10 раз меньшую задержку. Blaize GSP - это 100% программируемый процессор, обладающий расширенными возможностями, такими как многопоточность и потоковая передача.

Блейз сказал, что его клиенты раннего доступа для Pathfinder и Xplorer ищут производственное развертывание ранее неосуществимых вариантов использования интеллектуального технического зрения на базе искусственного интеллекта в режиме реального времени в промышленных приложениях, приложениях для автомобилей, интеллектуальной розничной торговли, городских и промышленных предприятий. Соучредитель и генеральный директор компании Динакар Мунагала сказал:«Современные периферийные решения либо слишком малы для расчета нагрузки, либо слишком дороги и сложны для производства. Продукты Blaize AI для периферийных вычислений преодолевают эти ограничения мощности, сложности и стоимости, чтобы дать волю внедрению ИИ на периферии, облегчая миграцию вычислений ИИ из центра обработки данных на периферию ». Ожидается, что рынки периферийного ИИ будут быстро расти, поскольку функциональность ИИ становится требованием для многих новых продуктов. Omdia Research прогнозирует, что выручка от набора микросхем AI достигнет 51 миллиарда долларов в 2025 году.

Два новых продукта от Blaize - это Pathfinder P1600, встроенная система на модуле (SOM) и платформа ускорителя Xplorer. Блейз сказал, что P1600 предоставляет преимущества программируемости и эффективности GSP для встроенных периферийных приложений ИИ, развернутых на границе датчика или на границе сети. Для P1600 не требуется хост-процессор, так что просто «подключи и работай».

Платформы Xplorer ускоряют приложения AI на периферии предприятия за счет подключения к слоту PCIe на хост-сервере или устройстве. X1600E - это ускорительная платформа малого форм-фактора для небольших сред с ограниченным энергопотреблением, таких как магазины или промышленные объекты. Его можно легко добавить для ускорения приложений ИИ на промышленных ПК или в качестве стойки для карт на небольшом сервере 1U. Или есть X1600P, который представляет собой стандартный ускоритель на базе PCIe в форм-факторе половинной высоты и половинной ширины. X1600P может заменить энергоемкий графический процессор для настольных ПК в пограничных серверах и обеспечить производительность логического вывода AI от 16 до 64 TOPS в секунду при очень низком энергопотреблении.

Программный пакет Blaize AI построен на открытых стандартах с легкостью доступа, что означает, что разработчики продуктов не привязаны к проприетарным средам разработки. Состоящий из комплекта разработки программного обеспечения Picasso (SDK) и AI Studio, визуального интерфейса без кода, программный пакет предлагает инструменты как для традиционных разработчиков, так и для экспертов, не связанных с кодированием. Кроме того, оба набора инструментов используют Blaize Netdeploy, систему Blaize с алгоритмами, поддерживающими границу, для обеспечения максимальной точности и производительности для периферийных развертываний.

Подтверждение концепции клиентов

Блейз сказал, что у него есть ряд клиентов с подтверждением концепции (POC), использующих его систему для включения ИИ на периферии. Приложения находятся в:

• Промышленный:запуск пяти независимых нейронных сетей со скоростью 50 кадров в секунду с совокупной задержкой менее 100 мс, отслеживание обнаружения и положения позы человека и робота, идентификатора и количества продукта, а также качества продукта.
• Умный город:три независимые нейронные сети, работающие со скоростью 50 кадров в секунду, отслеживающие обнаружение человека, позу, положение, автоматическое обнаружение и безопасность на транспортных перекрестках.
• Объединение датчиков:объединение видеоизображений FHD с высоким разрешением и датчиков лидара и радара, работающее как полноценное графическое приложение на Blaize GSP.
• Доставка "последней мили":сочетание сенсоров HD-камер с частотой 30 кадров в секунду и лидара / радара с задержкой менее 100 мс и мощностью менее 15 Вт.
• Розничная торговля:четыре независимые нейронные сети, работающие со скоростью 50 кадров в секунду, отслеживающие обнаружение человека, его положение, маску и кражу для обеспечения безопасности и защиты магазинов, а также обнаружения товаров.

Образцы обеих продуктовых линеек доступны уже сейчас, а полное производство ожидается в этом году. Blaize Xplorer X1600E доступен по цене 299 долларов США, Pathfinder P1600 SOM доступен в промышленном исполнении по цене 399 долларов США, а Xplorer X1600P доступен по цене 999 долларов США в больших объемах.