Преодоление пропасти: делаем машинное обучение доступным на периферии

Пограничный интеллект теперь в достижении проектировщиков без формального обучения в области Data Science благодаря новым аппаратным платформам.

Подключенные устройства и Интернет вещей (IoT) вплелись в ткань нашей повседневной жизни — будь то дома, транспорт или рабочие места. Пока большинство этих устройств полагается на облачные сервисы для тяжелых вычислений, новая парадигма — «пограничный интеллект» — переформирует то, как мы строим интеллектуальные системы.

В этой статье мы сравниваем облачный интеллект с пограничным, иллюстрируем реальные сценарии использования и показываем, как аппаратное обеспечение NXP и программная экосистема eIQ уполномачивают проектировщиков любого уровня квалификации развертывать машинное обучение (ML) на периферии.

Рисунок 1. Переход от облачных вычислений к пограничным разблокирует миллиарды ML-устройств. Изображение предоставлено NXP.

Ключевые термины машинного обучения

Облачные вычисления

Облачные вычисления предоставляют удаленные вычислительные ресурсы по запросу. Поставщики услуг поддерживают оборудование и гарантируют доступность, позволяя клиентам платить только за используемое. Для большинства предприятий облачные сервисы остаются решением для крупномасштабной аналитики и обучения.

Пограничные вычисления

Пограничные вычисления размещают обработку ближе к источнику данных — между конечным пользователем и облаком. Пограничные узлы занимаются фильтрацией, буферизацией и задачами повышения приватности, снижая задержку и использование полосы пропускания, а также расходы. Современные пограничные устройства теперь встраивают AI-ускорители, решающие, какие данные стоит отправлять вверх по потоку для более глубокого анализа.

Машинное обучение (ML)

В своей основе ML обучает алгоритмы распознавать паттерны. Нейронные сети — особенно сверточные архитектуры вроде MobileNet — демократизировали ML, эффективно работая на устройствах с ограниченными ресурсами. Результат — высокая точность классификации изображений, распознавания речи и многого другого, всё на периферии.

ML за пределами области Data Science

Исторически построение ML-систем требовало глубокой экспертизы в Data Science. Сегодня ландшафт кардинально сдвинулся. Прогнозы проецируют, что к 2025 году 98% пограничных устройств будут встраивать ML, что переводится примерно в 18–25 миллиардов умных устройств по всему миру. Этот взрыв открывает возможности в компьютерном зрении, речевом анализе, видеообработке и последовательном анализе.

Конкретные примеры включают умные дверные замки, использующие камеру для распознавания авторизованных пользователей, или панели управления автопарками, обнаруживающие отвлечение водителя в реальном времени. Ключ в том, что эти возможности больше не ограничены специалистами; их могут собирать проектировщики со скромными знаниями ML.

Аппаратные платформы, делающие Edge ML практичным

Оптимизированные нейросетевые алгоритмы в сочетании с мощными микроконтроллерами позволяют сложные ML-нагрузки на периферии. i.MX RT1170, например, предлагает двухъядерную архитектуру — 1 ГГц Arm Cortex-M7 плюс 400 МГц Cortex-M4 — позволяя инференс в реальном времени и одновременное выполнение моделей. Встроенные криптографические движки, графика и мультимедиа поддержка делают его идеальным для обнаружения отвлечения водителя, умного освещения, интеллектуальных замков и систем управления автопарками.

Рисунок 2. Блок-схема кроссоверного МК i.MX RT1170. Изображение предоставлено NXP.

i.MX 8M Plus нацелен на более высокопроизводительные приложения, такие как компьютерное зрение и промышленная автоматизация. С выделенным NPU, доставляющим до 2,3 TOPS, четырьмя ядрами Arm Cortex-A53 и опциональной поддержкой 4K или двойных HD-камер, он может обрабатывать распознавание лиц, детекцию объектов и продвинутые мультимедийные задачи. Дополнительное низкопотребляющее ядро Cortex-M7 управляет реально-временными сетевыми функциями, включая CAN FD и TSN-способный Gigabit Ethernet.

Рисунок 3. Блок-схема i.MX 8M Plus. Изображение предоставлено NXP.

Набор инструментов eIQ: от модели к развертыванию

Экосистема ML eIQ от NXP превращает эти мощные устройства в удобные для разработчиков платформы. Набор включает инференс-движки, компиляторы нейросетей и оптимизированные библиотеки, интегрирующиеся с MCUXpresso IDE и YoctO BSP. Предстоящие релизы добавляют графический eIQ Toolkit и eIQ Portal, поддерживающие как workflows «bring your own model» (BYOM), так и «bring your own data» (BYOD).

Рисунок 4. eIQ Toolkit и eIQ Portal с BYOD/BYOM workflows и выбираемыми инференс-движками. Изображение предоставлено NXP.

С BYOM разработчики могут обучать модели в облаке и импортировать их в среду eIQ, затем выбирать оптимальный инференс-движок. С BYOD те же инструменты курируют датасеты, обучают модели и упаковывают их — всё в одном графическом интерфейсе.

Edge ML: доступное, безопасное и масштабируемое

Пограничные вычисления держат чувствительные данные локально, снижают затраты на полосу пропускания и режут задержку — выгоды, которые усиливаются в сочетании с ML. Будь то алерты об отвлечении водителя в реальном времени или автоматизированный контроль доступа, ML на периферии переформирует то, как устройства взаимодействуют с миром.

Сочетая стоимоеффективное оборудование NXP со стеком ПО, дружественным к разработчикам, проектировщики на всех уровнях опыта могут создавать надежные, zukunftssichere ML-решения. Будь вы строите единичный прототип или развертываете флот из миллиардов устройств, инструменты и платформы теперь в досягаемости.

Индустриальные статьи — форма контента, позволяющая промышленным партнерам делиться полезными новостями, сообщениями и технологиями с читателями All About Circuits способом, не подходящим для редакционного контента. Все индустриальные статьи подлежат строгим редакционным рекомендациям с намерением предложить читателям полезные новости, техническую экспертизу или истории. Точки зрения и мнения, выраженные в индустриальных статьях, принадлежат партнеру и не обязательно All About Circuits или его авторам.