Edge AI набирает импульс: AWS и Microsoft показывают интегрированные решения вывода и управления
Развертывание AI напрямую на пограничных устройствах доставляет мгновенные ответы и снижает стоимость отправки больших потоков данных в облако. Недавние аппаратные достижения — выделенные ML-ускорители, мощные микроконтроллеры и уточненные модели — позволяют более богатый вывод в тесных энергобюджетах. Однако даже полностью локальный конвейер все еще выигрывает от облачного управления устройствами, непрерывного обучения моделей и безопасных механизмов обновлений.
AWS IoT
На Embedded World Digital 2021 AWS и Microsoft подсветили, как их экосистемы поддерживают edge AI. Главный архитектор решений AWS Раджив Муралидхар объяснил, что в то время как запуск TensorFlow Lite или других ML-моделей на устройстве — это одна возможность, реальное преимущество кроется в управлении всем жизненным циклом устройства безопасно и в масштабе. Он подчеркнул важность развертывания обновлений прошивки и моделей, держащих флоты актуальными и безопасными.
AWS доставляет эту способность через платформу AWS IoT, состоящую из трех ключевых компонентов: device-side ПО (FreeRTOS или AWS Greengrass), сервисы контроля и связности (AWS IoT Core) и аналитические и event-driven сервисы.

AWS предлагает комплексную поддержку для edge AI устройств через свою IoT платформу (Изображение: AWS)
FreeRTOS — открытая ОС для микроконтроллеров, поддержанная двухгодичной программой долгосрочной поддержки (LTS), гарантирующей патчи безопасности, обновления функций и исправления багов. Её фреймворк OTA обновлений позволяет операторам толкать изменения прошивки к тысячам устройств безопасно и в масштабе. Ядро FreeRTOS может общаться напрямую со шлюзом, запущенным AWS Greengrass, создавая бесшовный мост между локальным выводом и облачными сервисами.
AWS IoT Core служит точкой входа для данных, текущих в облако. Он предоставляет брокер сообщений, способный принуждать правила к входящим данным — хранение, маршрутизация к базе данных или отправка к аналитическим инструментам вроде SageMaker для машинного обучения. Платформа также предлагает инструменты управления флотом, возможности управления устройствами и event-driven автоматизацию, обнаруживающую аномалии и запускающую ответы через большую сеть IoT-эндпоинтов.
Муралидхар подсветил, что безопасное, сквозное управление жизненным циклом устройства необходимо при работе в масштабе. Ротация сертификатов безопасности и применение обновлений ОС без компромисса целостности флота — ключ к поддержанию надежной экосистемы.
Он видит непрерывный цикл, где данные, отправленные в облако, используются для уточнения модели, после чего более новые, более точные модели тянут обратно на устройства. Таким образом, устройства, работающие в ваших транспортных средствах или на цеху, более способны и могут реагировать быстрее и точнее,
сказал он.
Azure Percept
Azure Percept от Microsoft — это платформа железа и ПО, спроектированная для дела edge AI доступным для разработчиков без глубокой специализации. Система использует облачные сервисы Azure для управления устройствами, разработки моделей и аналитики, предоставляя предстроенные аппаратные модули, включающие передовой AI-ускорители.

Платформа Azure Percept Microsoft объединяет аппаратные модули — включая Trusted Platform Module, аудио модуль и vision модуль — с облачными сервисами Azure (Изображение: Microsoft)
Текущий аппаратный dev kit включает модуль Azure Percept Vision, использующий ускоритель Intel Movidius Myriad X для компьютерного зрения, и модуль Azure Percept Audio, детали которого предстоят. Vision модуль спроектирован для упрощения обучения, развертывания и управления AI моделями прямо на периферии.
Microsoft также связывает платформу с Azure IoT Hub, обеспечивая безопасную двунаправленную коммуникацию между устройствами и облаком. Будущие планы включают расширение диапазона сторонних Percept-сертифицированных устройств, позволяя разработчикам портировать решения с dev kit на production-ready железо.
>> Эта статья изначально публиковалась на нашем партнерском сайте EE Times Europe.
Интернет вещей
- Инструменты мониторинга AWS: Мастерство облачной безопасности и производительности
- AWS 2020 облачные обновления: ключевые улучшения и новые фичи
- Освоение AWS Cloud: ключевые основы и навыки для успеха
- AWS Practitioner собеседование: экспертные Q&A для стремящихся облачным профессионалам
- Как облачные вычисления топлива инновации ИИ и повышают бизнес‑эффективность
- Как облачные вычисления революционизируют предоставление медицинских услуг
- Edge Cloud Computing: необходимый бэкбон для быстрого роста IoT
- Как IoT революционизировал здравоохранение во время пандемии Covid-19
- Azure против AWS: какая облачная платформа выигрывает для IoT?
- Как периферийные вычисления революционизируют коммерческие развертывания IoT