Новые модули ускорения AI повышают производительность Edge

Производитель микросхем искусственного интеллекта (ИИ) Hailo выпустил свои высокопроизводительные модули ускорения ИИ M.2 и Mini PCIe для расширения возможностей периферийных устройств. На базе процессора Hailo-8 модули можно подключать к различным периферийным устройствам, что позволяет развертывать возможности искусственного интеллекта в умных городах, умной розничной торговле, Индустрии 4.0 и умных домах.

Модули позволяют клиентам интегрировать высокопроизводительные возможности искусственного интеллекта в периферийные устройства, обеспечивая оптимизированное решение для ускорения работы ряда приложений на основе глубокого обучения с высокой эффективностью - оптимизируя время вывода на рынок с помощью стандартного форм-фактора.

Модули ускорения искусственного интеллекта Hailo легко интегрируются в стандартные платформы, такие как TensorFlow и ONNX, которые поддерживаются компилятором потока данных Hailo. Заказчики могут быстро перенести свои нейронные сети (NN) на процессор Hailo-8.

Эти подключаемые модули появляются в то время, когда отрасли все чаще используют периферийные устройства, которые одновременно являются высокопроизводительными и экономичными. Например, безвентиляторные периферийные блоки AI пользуются большим спросом, поскольку они позволяют подключать множество камер или датчиков к одному интеллектуальному устройству обработки данных при развертывании вне помещений. Модули Hailo - с их процессором Hailo-8 AI, обеспечивающим 26 тераопераций в секунду (TOPS) и энергоэффективностью 3 TOPS / Вт - могут быть подключены к любому существующему периферийному устройству с соответствующими разъемами M.2 или Mini PCIe, обеспечивая производительность при уменьшении задержки и улучшении конфиденциальности.

Сравнение среднего числа кадров в секунду (FPS) Hailo-8 с конкурентами в нескольких стандартных тестах NN (на основе последних опубликованных данных) показывает, что AI-модули Hailo достигают частоты кадров в секунду в 26 раз выше, чем у модулей Intel Myriad-X, и в 13 раз выше, чем у модулей. Модули Edge TPU от Google.

По словам Орра Данона, генерального директора Hailo, «Производители в разных отраслях понимают, насколько важна интеграция возможностей искусственного интеллекта в свои периферийные устройства. Проще говоря, решения без ИИ больше не могут конкурировать. Наши новые модули Hailo-8 M.2 и Mini PCIe дадут возможность компаниям во всем мире создавать новые мощные, экономичные, инновационные продукты на основе искусственного интеллекта с коротким сроком вывода на рынок - при сохранении тепловых ограничений системы. Высокая эффективность и максимальная производительность модулей Hailo меняют правила игры на периферийном рынке ».

Модуль Hailo-8 M.2 уже интегрирован в следующее поколение Foxconn BOXiedge - 24-ядерный мини-сервер, которому требуется всего 30 Вт мощности для работы - без необходимости переделки печатной платы. Решение обеспечивает хорошую энергоэффективность для автономных узлов логического вывода ИИ, обеспечивая преимущества для приложений, включая умные города, умную розничную торговлю, индустрию 4.0 и умную медицину.

«Интеграция модуля искусственного интеллекта Hailo M.2 в наш BOXiedge революционизирует наши периферийные вычислительные устройства следующего поколения и позволит нам продолжать поддерживать нашу миссию по созданию инновационных, эффективных и конкурентоспособных продуктов для электронной промышленности», - сказал Джин Лю. Вице-президент подразделения полупроводников Foxconn Technology Group. «Модули Hailo M.2 и Mini PCIe вместе с высокопроизводительным ИИ-чипом Hailo-8 позволят многим быстро развивающимся отраслям за очень короткое время внедрить передовые технологии, открывая новое поколение высокопроизводительных устройств с низким энергопотреблением, и более умные решения на основе ИИ ».