Создание надежных ИИ систем: алгоритмы защиты от ошибок для промышленности

Сбои камер машинного зрения, нескалиброванные датчики или непредсказуемые тени могут привести к потенциально затратным и опасным ошибкам в промышленных ИИ системах. Однако исследователи разрабатывают алгоритмы защиты от ошибок, а также простые меры, которые можно принять для снижения вероятности ошибки.

Промышленные приложения для искусственного интеллекта

Существует множество промышленных приложений для ИИ (искусственного интеллекта), таких как роботизированные платформы, обработка материалов, упаковка, обслуживание станков, сборка, инспекция и BAS (системы автоматизации зданий). Более конкретные примеры включают дроновые и ройовые технологии для сортировки, перемещения и транспортировки предметов или обнаружения аномалий в производственных процессах.

ИИ стал критическим, но часто забываемым аспектом промышленной автоматизации, зависящей от машинного зрения, роботизированных рук, удаленного чувствования и процессного управления.

Однако инструменты ИИ не являются простым черным ящиком, в который данные предоставляются как вход и преобразуются в точный выход. Иногда выход ошибочен, и это источник беспокойства.

Типы ошибок в промышленных приложениях

Компьютеры делают то, что им говорят сделать, поэтому человек является корнем каждой ошибки. Это может быть ошибка дизайна, алгоритмическая ошибка, инженерная ошибка или плохие данные, но будет человек в корне.

Это также применимо к ИИ, включая промышленный ИИ. Ошибки внутри промышленного ИИ могут попасть в одну из двух категорий: алгоритмическое смещение (algorithmic bias) и машинное смещение (machine bias).

Алгоритмическое смещение включает ошибки, которые как повторяемы, так и системны. Такие ошибки могут проявляться несколькими разными способами: внутренняя ошибка в логике алгоритма, неожиданное использование выхода алгоритма или проблемы с данными, предоставленными ИИ системе.

Машинное смещение происходит, когда ограниченный набор данных используется для обучения системы, приводя к ошибочному выходу.

Важность удержания ошибки ИИ под контролем

Как пример алгоритмического смещения, рассмотрим ИИ-усиленную систему машинного зрения, используемую для автоматизированных систем контроля качества. Такое приложение сильно зависит от точных измерений, поставляемых как данные ИИ, определяя, попадает ли деталь в допуски. Если неточные измерения предоставлены ИИ, это приведет к ошибочной маркировке деталей.

Алгоритмы за машинным зрением ИИ могут быть 100% правильными, но плохие данные означают плохой выход. Приемлемые детали могут быть утилизированы, в то время как некачественные детали могут быть отправлены клиентам. Это ведет к ненужным затратам и простоям, пока источник проблемы отслеживается.

Некоторые ИИ системы требуют обучения перед использованием в конкретной среде или приложении. В таких случаях обучающие данные, предоставленные системе, чрезвычайно важны. Например, если система получает обучение, ограниченное условиями в освещенной зоне, будут проблемы, когда система должна выполняться без света.

Защита ИИ от ошибок (обучение ИИ)

Потому что есть человеческий элемент за ИИ и машинным обучением, его нельзя сделать полностью защищенным от ошибок. Есть, однако, способы минимизировать ошибку внутри ИИ систем. Пример включает CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning), алгоритм глубокого обучения, разработанный в MIT, чья цель — помочь автономным системам поощряя уровень скептицизма о данных, учитывающий, например, шум в данных и враждебные усилия запутать систему.

Carnegie Mellon также работала над ИИ алгоритмом для моделей глубокого обучения. Названный RATT (Randomly Assign, Train and Track), этот подход использует немаркированные и зашумленные обучающие данные для установления верхней границы для истинного риска ошибки. Эта верхняя граница может затем определить, насколько хорошо ИИ модель адаптируется к новым входным данным. Кроме того, исследователи в Принстоне рассматривали алгоритмы, которые позволят ИИ системе эффективно учиться, когда ошибки присутствуют в обучающих данных.

Также есть стандарты в разработке, которые повлияют на усилия по защите от ошибок. NIST (Национальный институт стандартов и технологий) активно вносит вклад в стандарты ИИ, включающие фокус на оценке надежности ИИ технологий. NIST также предложил подход к снижению риска смещения в ИИ системах.

Агентство США по кибербезопасности и безопасности инфраструктуры (CISA) уже смотрит на стандарты для проверки ИИ алгоритмов и сбора данных, как было раскрыто во время панели 2020 года «Genius Machines». Это усилие, вместе с NIST, подчеркивает подотчетность.

Адресация ошибки в ИИ системах

Хотя защита от ошибок ИИ систем, за которыми вы отвечаете, может быть невозможна из-за вовлеченного человеческого элемента, есть определенно способы минимизировать возможность ошибок.

Если вы подозреваете, что ошибки приходят из вашей ИИ системы, не автоматически вините алгоритм; скорее, изучите ошибки, чтобы найти паттерн. Например, если это автономный робот для бин-пикинга, совершающий ошибки, посмотрите, есть ли что-то общее у неверно отсортированных предметов или есть ли изменения в среде робота (освещение, тени и т.д.), которые могут влиять на его производительность. Также может быть проблема с грязным объективом камеры в части машинного зрения системы, таких как в автономных мобильных роботах.

Жесткое правило программирования: плохой вход всегда приведет к плохому выходу. Первый шаг в минимизации ошибки, генерируемой промышленной ИИ системой — обеспечить, чтобы её данные были максимально точны, начиная с датчиков. Датчики, предоставляющие входные данные ИИ системам, должны калиброваться регулярно.

Инструменты внутри ИИ системы, позволяющие пользователям устанавливать допустимые диапазоны для данных, должны быть внедрены после тщательного рассмотрения допустимого диапазона: слишком строгий, и ИИ не даст много ценности; слишком слабый, и он генерирует слишком много ошибок. И помните, эти значения можно регулировать.

Также, как упоминалось ранее, держите любые камеры чистыми. Хотя системы машинного зрения спроектированы быть робастными в различных экологических условиях, это не значит, что они всё еще будут хорошо выполняться, когда зрение compromisеd грязным объективом. То же верно для других промышленных датчиков, чья точность может быть compromisеd накоплением накипи, воздействием коррозивных сред, механическими проблемами или старением.

ИИ широко используется в промышленном секторе для всего от процессного управления до инспекций качества. И из-за вовлеченного человеческого фактора эти ИИ системы также подвержены ошибке. Алгоритмы защиты от ошибок разрабатываются, но эти методы не полностью зрели, ни были обширно протестированы на промышленных приложениях. И пока организации такие как NIST и CISA работают над стандартами защиты от ошибок, они все еще в разработке. Однако некоторые простые меры могут снизить вероятность ошибки в ваших ИИ системах.