Алгоритмы AI с защитой от ошибок

Сбои с камерами машинного зрения, неоткалиброванными датчиками или непредсказуемыми тенями могут привести к потенциально дорогостоящим и опасным ошибкам в промышленных системах искусственного интеллекта. Однако исследователи разрабатывают алгоритмы защиты от ошибок, а также простые меры, которые можно предпринять для снижения вероятности ошибки.

Искусственный интеллект вышел далеко за рамки базовой искусственной нейронной сети персептрона, но ошибка остается проблемой. Изображение предоставлено Pixabay

Промышленные приложения для искусственного интеллекта

Существует множество промышленных приложений для ИИ (искусственного интеллекта), таких как платформы робототехники, погрузочно-разгрузочные работы, упаковка, обслуживание машин, сборка, инспекция и BAS (системы автоматизации зданий). Более конкретные примеры включают технологию дронов и роя для сортировки, перемещения и транспортировки предметов или обнаружения аномалий в производственных процессах.

ИИ стал критически важным, но часто забытым аспектом промышленной автоматизации, зависящей от машинного зрения, роботизированных манипуляторов, дистанционного зондирования и управления процессами.

Однако инструменты ИИ - это не простой черный ящик, в который данные предоставляются в качестве входных и преобразуются в точные выходные данные. Иногда вывод неверен, и это вызывает беспокойство.

Типы ошибок в промышленных приложениях

Компьютеры делают то, что им говорят, поэтому в основе каждой ошибки лежит человек. Это может быть ошибка проекта, ошибка алгоритма, инженерная ошибка или неверные данные, но в основе лежит человек.

Это также относится к ИИ, включая промышленный ИИ. Ошибки в промышленном искусственном интеллекте можно разделить на две категории:алгоритмическое смещение и машинное смещение.

Алгоритмическая предвзятость связана с повторяющимися и системными ошибками. Такие ошибки могут проявляться по-разному:внутренняя ошибка в логике алгоритма, непредвиденное использование результатов алгоритма или проблемы с данными, предоставленными системе ИИ.

Смещение машины возникает, когда для обучения системы используется ограниченный набор данных, что приводит к ошибочному выводу.

Важность контроля ошибок ИИ

В качестве примера алгоритмической предвзятости рассмотрим систему машинного зрения на базе искусственного интеллекта, используемую для автоматизированных систем контроля качества. Такое приложение во многом зависит от точных измерений, передаваемых ИИ в качестве данных, определяющих, находится ли деталь в пределах допусков. Если ИИ предоставит неточные измерения, это приведет к ошибочной маркировке деталей.

Алгоритмы, лежащие в основе ИИ машинного зрения, могут быть на 100% правильными, но плохие данные означают плохой результат. Приемлемые детали могут быть утилизированы, а некачественные детали могут быть отправлены клиентам. Это приводит к ненужным расходам и простою, поскольку источник проблемы отслеживается.

iRVision 3DL FANUC использует лазеры и искусственный интеллект для проверки состояния поверхности детали. Изображение любезно предоставлено FANUC

Некоторые системы искусственного интеллекта, которые требуют обучения перед использованием в определенной среде или приложении. В таких случаях данные обучения, предоставленные системе, чрезвычайно важны. Например, если система проходит обучение, ограниченное условиями в освещенной зоне, возникнут проблемы, когда система должна работать без света.

ИИ с защитой от ошибок (обучающий ИИ)

Поскольку за искусственным интеллектом и машинным обучением стоит человеческий фактор, он не может быть защищен от ошибок. Однако есть способы минимизировать ошибки в системах ИИ. Примером может служить CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning) - алгоритм глубокого обучения, разработанный в Массачусетском технологическом институте, цель которого - помочь автономным системам, поощряя определенный уровень скептицизма в отношении принимаемых во внимание данных, таких как шум в данных и т. Д. попытки врага запутать систему.

Карнеги Меллон также работал над алгоритмом искусственного интеллекта для моделей глубокого обучения. Этот подход, получивший название RATT (Randomly Assign, Train and Track), использует немаркированные и зашумленные данные обучения для определения верхней границы истинного риска ошибки. Эта верхняя граница может затем определить, насколько хорошо модель ИИ адаптируется к новым входным данным. Кроме того, исследователи из Принстона изучали алгоритмы, которые позволят системе ИИ эффективно обучаться, когда в обучающих данных присутствуют ошибки.

Также в разработке находятся стандарты, которые повлияют на усилия по защите от ошибок. NIST (Национальный институт стандартов и технологий) активно участвует в разработке стандартов искусственного интеллекта, в которых особое внимание уделяется оценке надежности технологий искусственного интеллекта. NIST также предложил подход к снижению риска предвзятости в системах искусственного интеллекта.

CISA (Агентство по кибербезопасности и безопасности инфраструктуры) США уже изучает стандарты проверки алгоритмов ИИ и сбора данных, как было показано в ходе панели 2020 года под названием «Genius Machines». Эти усилия, наряду с усилиями NIST, делают упор на подотчетности.

Ошибка адресации в системах искусственного интеллекта

Хотя защита от ошибок систем искусственного интеллекта, за которые вы несете ответственность, может оказаться невозможной из-за человеческого фактора, безусловно, есть способы минимизировать вероятность ошибок.

Если вы подозреваете, что ошибки исходят от вашей системы ИИ, не вините алгоритм автоматически; лучше изучите ошибки, чтобы найти закономерность. Например, если это автономный робот, собирающий мусор, который делает ошибки, посмотрите, есть ли что-то общее, что есть у неправильно отсортированных предметов, или есть ли изменения в окружающей среде робота (освещение, тени и т. Д.), Которые могут повлиять на его производительность. . Также может быть проблема с грязным объективом камеры в части системы машинного зрения, например, в автономных мобильных роботах.

Многие камеры машинного зрения имеют встроенные системы искусственного интеллекта, такие как FLIR Firefly DL, но эти системы могут генерировать ошибки, если их не содержать в чистоте и не правильно настроить. Изображение предоставлено FLIR

Жесткое правило программирования состоит в том, что плохой ввод всегда приводит к плохому результату. Первым шагом к минимизации ошибки, генерируемой промышленной системой ИИ, является обеспечение максимальной точности ее данных, начиная с датчиков. Датчики, которые предоставляют входные данные в системы искусственного интеллекта, следует регулярно калибровать.

Инструменты в системе ИИ, которые позволяют пользователям устанавливать приемлемые диапазоны для данных, должны быть реализованы после тщательного рассмотрения приемлемого диапазона:слишком строгий, и ИИ не принесет большой ценности; слишком свободно, и это порождает слишком много ошибок. И помните, эти значения можно регулировать.

Кроме того, как упоминалось ранее, держите камеры в чистоте. Хотя системы машинного зрения спроектированы так, чтобы быть надежными в различных условиях окружающей среды, это не означает, что они по-прежнему будут хорошо работать, когда зрение ухудшается из-за грязных линз. То же самое и с другими промышленными датчиками, точность которых может быть снижена из-за накипи, воздействия агрессивных сред, механических проблем или старения.

ИИ широко используется в промышленном секторе для всего, от контроля процессов до контроля качества. И из-за человеческого фактора эти системы искусственного интеллекта также подвержены ошибкам. Алгоритмы защиты от ошибок разрабатываются, но эти методы еще не полностью разработаны и не были тщательно протестированы в промышленных приложениях. И хотя такие организации, как NIST и CISA, работают над стандартами защиты от ошибок, они все еще находятся в разработке. Однако некоторые простые меры могут снизить вероятность ошибки в ваших системах искусственного интеллекта.