Руководитель обсуждает влияние ИИ на рабочих

Промышленность и производство все чаще обращаются к искусственному интеллекту (ИИ) для повышения производительности и качества. Однако один руководитель говорит, что ИИ нужно развертывать с осторожностью.

Доминик Галелло — генеральный директор компании Symphony AzimaAI, занимающейся промышленным Интернетом вещей и корпоративным искусственным интеллектом. За последние 16 лет он руководил тремя государственными и частными компаниями по разработке программного обеспечения. Его исполнительная карьера также связана с работой в Autodesk.

Галелло дал интервью по электронной почте.

ВОПРОС. Может ли искусственный интеллект (ИИ) выжечь сотрудников? Я думал, что это должно облегчить задачу. Что случилось?

ГАЛЕЛЛО :При правильной реализации нет, не выжигает воркеров. Но если вы хотите вымотать оператора диспетчерской, предоставьте ему целый ряд разрозненных сигналов тревоги и рекомендаций, а не сводите возникающие проблемы к содержательным рекомендациям.

Вот где ИИ должен прийти и оказать огромную помощь. Компьютер может обрабатывать и сопоставлять огромное количество информации, чтобы делать выводы, на которые человеческий разум не способен.

Но если реализовано плохо, то да. Мы снова и снова видели, что при неправильной реализации ИИ выдает ложные срабатывания. Компьютер говорит, что есть проблема, когда ее нет. Это приводит к погоне за дикими гусями. Тратить свой день на устранение ложных срабатываний — утомительное занятие для большинства.

ВОПРОС. Вы сообщили об эпизоде, когда газовая компания получила много ложных срабатываний. Не могли бы вы немного рассказать и описать, что произошло?

ГАЛЕЛЛО :Они использовали систему, основанную на искусственном интеллекте второго поколения, так называемом распознавании образов, которое печально известно тем, что дает до 60 процентов ложных срабатываний. Необходимость прогонять их и выяснять, что проблемы на самом деле нет, отнимает много времени, денег, а также очень беспокоит, чтобы выяснить, что реально, а что нет.

ИИ необходим, но недостаточен. Устаревшие системы искусственного интеллекта второго поколения обучают модель на известных неисправностях машины, и если возникает такая же ошибка, система ее улавливает. Но что происходит, когда у вас нет истории неисправности, а затем она возникает? Модель его не поймает.

ИИ третьего поколения переворачивает парадигму с ног на голову. Мы обучаем модель ИИ тому, что является «нормальным» рабочим поведением, а затем выявляем любое аномальное поведение из нормального, используя обучение без учителя третьего поколения. Сейчас мы только начинаем.

Важнейшим шагом является подключение ИИ к библиотеке анализа последствий режима отказа, которая точно определяет компоненты машины, которые являются виновниками, и дает рекомендации инженерам по техническому обслуживанию по действиям, которые необходимо предпринять.

ВОПРОС. Стали ли компании рассматривать искусственный интеллект как панацею?

ГАЛЕЛЛО :Долго никто не делает. С точки зрения теории пропасти, мы уходим от провидцев и первопроходцев. Раннее большинство хочет, чтобы она работала, решала конкретные проблемы и приносила финансовые результаты. Это жесткая толпа, требующая «докажи мне это».

ВОПРОС. Существуют ли непредвиденные последствия использования ИИ? Если да, то какие?

ГАЛЕЛЛО :ИИ похож на любой другой технологический сдвиг. Я сравниваю это со сдвигом в сторону объектно-ориентированного программирования. Был большой ажиотаж, было много плохих реализаций, но со временем это стало нормой. ИИ проходит тот же путь.

ВОПРОС. Какие изменения должны внести компании в развертывание ИИ?

ГАЛЕЛЛО :Лучше, чтобы инженеры изучали ИИ, чем существовало разделение между инженерами-экспертами в предметной области и учеными, занимающимися чистыми данными. Когда эксперты в предметной области смогут понять и использовать возможности ИИ, это приведет к гораздо более быстрому и успешному внедрению.