Создание умных IoT-решений с TinyML и автоматизированным машинным обучением

IoT обеспечивает непрерывный мониторинг сред и машин через компактные сенсоры. Быстрые достижения в дизайне сенсоров, микроконтроллерах и беспроводных протоколах превратили IoT-платформы в доступные массово производимые устройства с разнообразными вариантами связности. Низкая стоимость этих систем стимулирует широкое развертывание в общественных местах, домах и промышленном оборудовании.

Эти сенсоры собирают физические данные 24/7, генерируя массивные потоки. Например, акселерометры и гироскопы на вращающемся оборудовании записывают вибрацию и угловую скорость; сенсоры качества воздуха отслеживают газообразные загрязнители; микрофоны в няньках постоянно слушают; умные часы измеряют пульс и другие витальные показатели. Магнетометры, датчики давления, температуры, влажности и окружающего света также предоставляют инсайты об окружающей среде в реальном времени.

Алгоритмы машинного обучения (ML) выявляют паттерны в этих данных, недоступные ручному анализу. В сочетании с IoT ML движет новой волной умных приложений — носимых устройств, умных домов, заводов Индустрии 4.0, автомобильных систем, машинного зрения и потребительской электроники — благодаря низкопотребляющему, низколатентному, легковесному выводу, известному как tinyML.

TinyML с автоматизированным машинным обучением

Развертывание ML на крошечных микроконтроллерах (MCU) предлагает несколько ключевых преимуществ:

• Конфиденциальность и безопасность данных: вывод происходит локально, сохраняя данные на устройстве и в периметре.
• Экономия энергии: минимальная или отсутствующая передача данных резко снижает потребление энергии.
• Низкая латентность и высокая доступность: локальный вывод дает отклик в миллисекунды, независимо от сетевых условий.

Рисунок 1: TinyML добавляет расширенные функции к традиционным IoT-устройствам (Источник: Qeexo)

Автоматизированное машинное обучение оптимизирует весь рабочий процесс — от конфигурации сенсоров и сбора данных до обучения и развертывания модели — с использованием платформ вроде Qeexo AutoML. Система строит легковесные высокопроизводительные модели для MCU ARM Cortex-M0–M4 и других ограниченных сред.

Рисунок 2: Рабочий процесс Qeexo AutoML (Источник: Qeexo)

TinyML с архитектурой ARM® Cortex™ M0+

Рост IoT требует все более мелких и энергоэффективных MCU. Чипы ARM Cortex-M0+, работающие на 48 МГц, распространены на сенсорных платах, так как потребляют всего 7 мА на ножку I/O — вдвое меньше, чем 15 мА старшего Cortex-M4 на 64 МГц.

Однако архитектура M0+ жертвует памятью и вычислительной мощностью. Она поддерживает только 32-битные фиксированные операции, не имеет насыщенной арифметики и DSP-функций. Например, Arduino Nano 33 IoT (Cortex-M0+) предлагает 256 КБ flash и 32 КБ SRAM, в то время как Arduino Nano 33 BLE Sense (Cortex-M4) обеспечивает 32-битную плавающую точку, DSP, насыщенную арифметику и в четыре раза больше flash и в восемь раз больше SRAM.

Развертывание ML на M0+ представляет три ключевых вызова:

• Фиксированные вычисления: Сенсорное ML часто опирается на обработку сигналов, извлечение признаков и вывод. Извлечение статистических и частотных признаков (например, БПФ) из нестационарных потоков критично для качественных моделей, но выполнение этого в фиксированной точности с сохранением точности сложно.
• Низкая емкость памяти: 256 КБ flash и 32 КБ SRAM ограничивают размер модели и память времени выполнения. Сложные границы решений обычно требуют глубоких деревьев или множества бустеров, увеличивая использование памяти. Уменьшение моделей часто ухудшает производительность.
• Низкая скорость CPU: Латентность на уровне миллисекунд важна для коммерческих развертываний. Такт 48 МГц M0+ существенно медленнее 64 МГц M4, влияя на скорость вывода.

Фреймворк AutoML для M0+

Qeexo AutoML преодолевает эти препятствия полностью фиксированным конвейером, оптимизированным для Cortex-M0+. Рабочий процесс обрабатывает сенсорные данные, вычисление признаков и вывод для ансамблей на основе деревьев — GBM, RF и XGBoost — используя компактные структуры данных и эффективную логику вывода. Рисунок 3 иллюстрирует этот конвейер.

Рисунок 3: Конвейер вывода Qeexo AutoML M0+ (Источник: Qeexo)

Платформа применяет патентную компрессию и квантование моделей, уменьшая память без потери точности. Рисунок 4 детализирует обучающий конвейер для целей Cortex-M0+.

Рисунок 4: Обучающий конвейер Qeexo AutoML M0+ (Источник: Qeexo)

Интеллектуальная обрезка

Вместо создания малой модели с нуля, Qeexo AutoML сначала обучает большой ансамбль, а затем селективно сохраняет самые мощные бустеры. Эта стратегия дает более высокую производительность и большую компрессию. Рисунок 5 показывает, что сжатая модель примерно в десять раз меньше полной, при этом обеспечивая превосходную кросс-валидационную точность.

Рисунок 5: Интеллектуальная обрезка модели Qeexo AutoML (Источник: Qeexo)

Квантование ансамблевых моделей

Qeexo AutoML расширяет пост-обучевое квантование — распространенное в нейросетях — на ансамблевые алгоритмы. Этот запатентованный подход дополнительно уменьшает размер модели и ускоряет латентность на MCU, сохраняя производительность. M0+ конвейер производит 32-битные фиксированные модели; опциональное 16-битное или 8-битное квантование уменьшает размер вдвое или вчетверо соответственно и ускоряет вывод в 2–3 раза.

Примеры использования tinyML

1. Умное настенное освещение: прикрепляя акселерометр и гироскоп к стене, пользователи могут обучать жесты «стук» и «смах» для управления светом. Qeexo AutoML строит модель жестов в реальном времени за минуты, обеспечивая интуитивное бесконтактное взаимодействие.
2. Умная логистика: AI-коробки определяют, как обрабатываются грузы от отправки до назначения, обеспечивая соблюдение правил и снижая повреждения.
3. Умные кухонные столешницы: TinyML модели распознают кухонные приборы и операции, предоставляя контекстно-зависимую автоматизацию и функции безопасности.
4. Обнаружение неисправностей машин: сенсоры на промышленном оборудовании выявляют паттерны неисправностей в реальном времени, позволяя проактивное обслуживание и минимизацию простоя.
5. Обнаружение аномалий: моделируя здоровые операционные состояния, Qeexo AutoML выявляет отклонения — критично в средах, где данных об отказов мало, но данных о нормальной работе много.
6. Распознавание активности в носимых устройствах: TinyML классифицирует повседневные активности, используя локальные сенсорные данные, давая мгновенную обратную связь без зависимости от облака.