Освоение встроенного ИИ: Face-ID, On-Device безопасность и практическое развертывание

Встраивание искусственного интеллекта в промышленные системы раскрывает более умные, безопасные интерфейсы — подумайте о Face-ID для доступа на заводском полу, голосовом контроле и обнаружении аномалий. Эти применения предлагают превосходную удобность, устойчивость и приватность по сравнению с унаследованными паролями и ручными логинами. Быстрый сдвиг отрасли к ИИ не опционален; он становится базовой ожиданием для современных продуктов.

(Источник: CEVA)

Вызов для построителей продуктов

Разработка ИИ для встроенных устройств расходится с традиционной прошивкой. Вместо написания процедурного кода вы обучаете нейросеть распознавать паттерны — примерно как обучение ребенка. Обученная модель должна затем быть обрезана под строгие бюджеты памяти и мощности без жертвы точностью. Даже если нейросети не «код» в конвенциональном смысле, вычисления инференса все еще потребляют ценные ресурсы. Как встроенные дизайнеры, выжимание каждого байта и ватта — первостепенная задача.

Как работают нейросети, кратко

Нейросеть — это стек слоев, каждый содержащий искусственные нейроны, обрабатывающие входы, применяющие выученные веса и передающие результаты. По мере распространения данных через последовательные слои сеть захватывает все более сложные признаки, кульминация в дефиницивной классификации на выходе.

Первое дизайнерское решение — архитектура сети — число слоев, счетчиков нейронов и связность. Второе — процесс обучения: экспозиция модели тысячам размеченных примеров, итеративная корректировка весов до достижения желаемой точности. Для большинства разработчиков использование предстроенной архитектуры вроде TensorFlow или открытой face-ID модели — практическая отправная точка. Затем можно обучить сеть локально с курированным датасетом лиц сотрудников в разнообразных позах, обеспечивая безопасную on-device аутентификацию.

Почему не полагаться исключительно на облако?

Хотя облачные сервисы распознавания лиц существуют, они вводят несколько недостатков для промышленных сред:

• Все изображения персонала должны храниться удаленно, поднимая вопросы безопасности и приватности.
• Каждая попытка аутентификации требует передачи данных, увеличивая потребление энергии и задержку.
• Сетевые сбои делают систему неработоспособной, критический отказ в безопасностно-критических настройках.

On-device инференс сохраняет приватность, минимизирует потребление энергии и гарантирует функциональность даже офлайн.

Следующие шаги: Развертывание вашей обученной сети

После завершения обучения модель должна быть встроена в целевое железо. Этот шаг включает квантизацию модели, маппинг памяти и интеграцию со вашим стеком прошивки — задачи, которые часто выигрывают от специализированной ИИ платформы. В предстоящем посте я пройду через эти нюансы развертывания. Пока консультируйтесь с книгой Deep Learning for the Real-Time Embedded World для более глубокого технического понимания.

Ariel Hershkovitz служит Senior Manager Customer Solutions для Software Development Tools в CEVA. Ariel приносит более 14 лет multidisciplinarного опыта, охватывающего разработку ПО, верификацию, интеграцию и развертывание сложных систем, в технических и управленческих ролях. Он страстен к пользовательскому опыту, простоте использования и передовой технологии, и превосходит в упрощении сложных проблем для быстрого разрешения. Ariel имеет B.Sc. в Computer Science от Ben-Gurion University и MBA от Bar-Ilan University.

Связанные материалы:

• Применение машинного обучения в встроенных системах
• Вызовы и возможности машинного обучения в IoT
• Преодоление смещения обучения в машинном обучении
• Использование FPGA для глубокого обучения
• Бенчмарк скоры подчеркивают широкий диапазон производительности ML инференса
• Transfer learning для IoT
• ИИ алгоритмы и вызовы для автономных автомобилей

Для большего Embedded, подпишитесь на еженедельную email рассылку Embedded.