Повышение доступности машинного обучения на периферии

"Edge Intelligence" становится более доступным - даже для тех дизайнеров, у которых нет формального обучения науке о данных - по мере появления нового оборудования.

В последние годы подключенные устройства и Интернет вещей (IoT) стали вездесущими в нашей повседневной жизни, будь то дома, автомобили или рабочее место. Многие из этих небольших устройств подключены к облачной службе - сегодня почти каждый, у кого есть смартфон или ноутбук, использует облачные службы, например, активно или с помощью службы автоматического резервного копирования.

Однако новая парадигма, известная как «пограничный интеллект», быстро набирает обороты в быстро меняющемся мире технологий. В этой статье представлены облачный интеллект, периферийный интеллект и возможные сценарии использования для профессиональных пользователей, чтобы сделать машинное обучение доступным для всех.

Рисунок 1. Переход от облачных вычислений к периферийным вычислениям открывает возможность создания миллиардов устройств, на которых работает программное обеспечение с поддержкой машинного обучения. Изображение предоставлено NXP.

Ключевые термины машинного обучения

Облачные вычисления

Проще говоря, облачные вычисления - это доступность удаленных вычислительных ресурсов, когда они нужны клиенту.

В случае общедоступных облачных сервисов поставщик облачных услуг отвечает за управление оборудованием и обеспечение того, чтобы доступность сервиса соответствовала определенному стандарту и ожиданиям клиентов. Заказчики облачных сервисов платят за то, что они используют, и использование таких сервисов, как правило, целесообразно только для крупномасштабных операций.

Периферийные вычисления

С другой стороны, периферийные вычисления происходят где-то между облаком и клиентской сетью.

Хотя определение того, где именно находятся граничные узлы, может варьироваться от приложения к приложению, обычно они расположены близко к локальной сети. Эти вычислительные узлы предоставляют такие услуги, как фильтрация и буферизация данных, и они помогают повысить конфиденциальность, обеспечить повышенную надежность и снизить затраты на облачные услуги и время задержки.

В последнее время ИИ и машинное обучение все чаще дополняют узлы периферийных вычислений и помогают решить, какие данные актуальны и должны быть загружены в облако для более глубокого анализа.

Машинное обучение (ML)

Машинное обучение (ML) - обширная научная область, но в последнее время нейронные сети (часто сокращенно NN) привлекают наибольшее внимание при обсуждении алгоритмов машинного обучения.

Многоклассные или сложные приложения машинного обучения, такие как отслеживание и наблюдение за объектами, автоматическое распознавание речи и обнаружение нескольких лиц, обычно требуют сетевых сетей. Многие ученые усердно работали над улучшением и оптимизацией алгоритмов NN в последнее десятилетие, чтобы позволить им работать на устройствах с ограниченными вычислительными ресурсами, что помогло ускорить популярность и практичность парадигмы периферийных вычислений.

Одним из таких алгоритмов является MobileNet - алгоритм классификации изображений, разработанный Google. Этот проект демонстрирует, что высокоточные нейронные сети действительно могут работать на устройствах со значительно ограниченной вычислительной мощностью.

Машинное обучение не только для экспертов

До недавнего времени машинное обучение предназначалось в первую очередь для экспертов в области науки о данных, хорошо разбирающихся в приложениях машинного обучения и глубокого обучения. Как правило, инструменты разработки и программные пакеты были незрелыми и сложными в использовании.

Машинное обучение и периферийные вычисления стремительно развиваются, и интерес к этим областям неуклонно растет с каждым годом. Согласно текущим исследованиям, 98% периферийных устройств будут использовать машинное обучение к 2025 году. Этот процент соответствует примерно 18-25 миллиардам устройств, которые, по мнению исследователей, будут иметь возможности машинного обучения.

В целом, машинное обучение на периферии открывает двери для широкого спектра приложений, от компьютерного зрения, анализа речи и обработки видео до анализа последовательностей.

Некоторые конкретные примеры возможных применений - интеллектуальные дверные замки в сочетании с камерой. Эти устройства могут автоматически обнаруживать человека, которому нужен доступ в комнату, и при необходимости разрешать ему вход.

Современные аппаратные решения позволяют машинному обучению на периферии

Из-за ранее обсужденных оптимизаций и улучшений производительности алгоритмов нейронных сетей многие приложения машинного обучения теперь могут работать на встроенных устройствах, работающих на кроссоверных микроконтроллерах, таких как i.MX RT1170. Имея два ядра обработки (Arm Cortex M7 с тактовой частотой 1 ГГц и ядро ​​Arm Cortex-M4 с тактовой частотой 400 МГц), разработчики могут запускать совместимые реализации NN с учетом ограничений в реальном времени.

Благодаря двухъядерному дизайну i.MX RT1170 также позволяет выполнять несколько моделей машинного обучения параллельно. Дополнительные встроенные криптографические механизмы, расширенные функции безопасности, а также графические и мультимедийные возможности делают i.MX RT1170 подходящим для широкого спектра приложений. Некоторые примеры включают обнаружение отвлекающих факторов водителя, интеллектуальные переключатели света, интеллектуальные замки, управление автопарком и многое другое.

Рисунок 2. Блок-схема семейства микроконтроллеров кроссовера i.MX RT1170. Изображение любезно предоставлено NXP. Щелкните для увеличения.

I.MX 8M Plus - это семейство процессоров приложений, ориентированных на машинное обучение, компьютерное зрение, современные мультимедийные приложения и промышленную автоматизацию с высокой надежностью. Эти устройства были разработаны с учетом потребностей интеллектуальных устройств и приложений Индустрии 4.0 и оснащены выделенным NPU (блоком нейронной обработки), работающим со скоростью до 2,3 TOPS и до четырех процессорных ядер Arm Cortex A53.

Рисунок 3. Блок-схема i.MX 8M Plus. Изображение любезно предоставлено NXP. Щелкните для увеличения.

Встроенные процессоры сигналов изображения позволяют разработчикам использовать либо два датчика HD-камеры, либо одну камеру 4K. Эти функции делают семейство устройств i.MX 8M Plus жизнеспособным для таких приложений, как распознавание лиц, обнаружение объектов и другие задачи машинного обучения. Кроме того, устройства семейства i.MX 8M Plus оснащены расширенными возможностями ускорения 2D и 3D графики, мультимедийными функциями, такими как поддержка кодирования и декодирования видео, включая H.265, и 8 микрофонными входами PDM.

Дополнительное маломощное ядро ​​Arm Cortex M7 с тактовой частотой 800 МГц дополняет комплект. Это выделенное ядро ​​обслуживает промышленные приложения в реальном времени, которым требуются надежные сетевые функции, такие как поддержка CAN FD и связь Gigabit Ethernet с возможностями TSN.

Среда инструментов eIQ

С появлением новых устройств возникает потребность в простой в использовании, эффективной и функциональной экосистеме разработки, которая позволяет разработчикам создавать современные системы машинного обучения. Комплексная среда разработки программного обеспечения eIQ ML от NXP предназначена для помощи разработчикам в создании приложений на основе машинного обучения.

Среда инструментов eIQ включает механизмы логического вывода, компиляторы нейронных сетей и оптимизированные библиотеки, позволяющие работать с алгоритмами машинного обучения на микроконтроллерах NXP, кроссоверных микроконтроллерах i.MX RT и семействе SoC i.MX. Необходимые технологии машинного обучения доступны разработчикам через SDK NXP для MCUXpresso IDE и Yocto BSP.

В готовящемся к выпуску eIQ Toolkit добавлен доступный графический интерфейс; Портал eIQ и рабочий процесс, позволяющие разработчикам любого уровня подготовки создавать приложения машинного обучения.

Рисунок 4. eIQ Toolkit и eIQ Portal с рабочими процессами BYOD и BYOM и выбором механизмов вывода eIQ. Набор инструментов eIQ Toolkit помогает разработчикам любого уровня подготовки при развертывании приложений машинного обучения на устройствах NXP. Изображение любезно предоставлено NXP.

Разработчики могут выбрать процесс, называемый BYOM (принесите свою собственную модель), при котором разработчики создают свои обученные модели с помощью облачных инструментов, а затем импортируют их в программную среду eIQ Toolkit. Затем все, что осталось сделать, это выбрать подходящую машину вывода в eIQ. Или разработчик может использовать инструменты на основе графического интерфейса пользователя eIQ Portal или интерфейс командной строки для импорта и обработки наборов данных и использования рабочего процесса BYOD (внесение собственных данных) для обучения своей модели в eIQ Toolkit.

Машинное обучение на передовой для всех

Большинство современных потребителей знакомы с облачными вычислениями. Однако в последние годы возрос интерес к новой парадигме, известной как периферийные вычисления.

При такой парадигме не все данные загружаются в облако. Вместо этого граничные узлы, расположенные где-то между конечным пользователем и облаком, обеспечивают дополнительную вычислительную мощность. Эта парадигма имеет множество преимуществ, таких как повышенная безопасность и конфиденциальность, сокращение передачи данных в облако и меньшая задержка.

В последнее время разработчики часто дополняют эти граничные узлы возможностями машинного обучения. Это помогает классифицировать собранные данные и отфильтровывать нежелательные результаты и нерелевантную информацию. Добавление машинного обучения к периферии позволяет использовать множество приложений, таких как обнаружение отвлекающих факторов водителя, интеллектуальные переключатели света, интеллектуальные замки, управление автопарком, наблюдение и категоризация и многое другое.

Приложения машинного обучения традиционно разрабатывались исключительно экспертами в области науки о данных с глубоким пониманием приложений машинного обучения и глубокого обучения. NXP предлагает ряд недорогих, но мощных устройств, таких как i.MX RT1170 и i.MX 8M Plus, а также среду разработки программного обеспечения eIQ ML, которая поможет открыть ML для любого дизайнера. Это оборудование и программное обеспечение нацелено на то, чтобы позволить разработчикам создавать перспективные приложения машинного обучения с любым уровнем опыта, независимо от того, насколько маленьким или большим будет проект.

Отраслевые статьи - это форма содержания, которая позволяет отраслевым партнерам делиться полезными новостями, сообщениями и технологиями с читателями All About Circuits, что не подходит для редакционного содержания. Все отраслевые статьи подлежат строгим редакционным правилам с целью предлагать читателям полезные новости, технические знания или истории. Точки зрения и мнения, выраженные в отраслевых статьях, принадлежат партнеру, а не обязательно All About Circuits или ее авторам.