Искусственный интеллект в АСУ ТП рано. Кибербезопасность

Виртуальный помощник, разработанный Google, произвел фурор, когда он дебютировал в прошлом году потому что это звучало неотличимо от человеческого, когда звонили в ресторан, чтобы забронировать столик. «Привет, я хочу зарезервировать столик на среду, седьмое», - излучал вежливый мужской голос в демонстрации Google Duplex. «На семь человек?» - спросила женщина на другом конце провода, очевидно, недопонимая. «Это для четырех человек», - парировал виртуальный помощник, предваряя это утверждение естественным «гм».

Пример Google Duplex служит микромиром для текущего состояния ИИ. Теперь доступная в 43 штатах США для пользователей телефонов Google Pixel, система Duplex одновременно впечатляет, но также напоминает о технологических ограничениях. Хотя Duplex может звучать устрашающе, как человеческий, его набор навыков довольно ограничен рутинными взаимодействиями. В отличие от этого, IBM Project Debater более свободно говорит абстрактно. Он может дать опытным участникам споров возможность побороться за свои деньги с точки зрения формулировки аргументов, но он излагает свои аргументы ровным, как у робота, голосом. Примеры как Duplex, так и Project Debater также напоминают о регулярности, с которой наиболее успешный ИИ является продуктом гигантских технологических компаний с огромными бюджетами и наборами данных с армиями сотрудников. И даже в этом случае ведущие компании предупреждают, что технология может дать сбой. «Алгоритмы ИИ могут быть некорректными», - говорится в недавней нормативной документации Microsoft. «Наборы данных могут быть недостаточными или содержать необъективную информацию. Несоответствующие или противоречивые методы обработки данных […] могут помешать принятию решений ИИ ».

[ Мир Интернета вещей - это место, где промышленные предприятия находят инновации в области Интернета вещей. Забронируйте абонемент на конференцию и сэкономьте 350 долларов, получите бесплатный билет на выставку или просмотрите Динамики IIoT на мероприятии.]

Однако общий маркетинговый ход для ИИ заключается в том, что эта технология является потенциальной панацеей от современных бизнес-проблем, способной помочь предприятиям и промышленным компаниям разобраться в огромном количестве данных (в том числе с устройств IIoT), а также помочь им повысить безопасность промышленных предприятий. Системы контроля. «Промышленная аналитика, применяемая к машинным данным для получения оперативной информации, является двигателем, движущим конвергенцию ОТ и ИТ и, в конечном итоге, созданием ценности для Четвертой промышленной революции», - гласит часть вступления к Industrial Internet of Things Analytics Framework из Консорциум промышленного Интернета.

Отвечая на вопрос о потенциале ИИ для кибербезопасности АСУ ТП, эксперт по кибербезопасности Джейсон Хавард-Грау, директор по информационной безопасности PAS Global, сказал, что «автоматизация роботизированных процессов, вероятно, гораздо интереснее с точки зрения ИИ, чем ИИ в безопасности», имея в виду бизнес-процессы. технология автоматизации, которая может снизить потребность в человеческом участии в таких задачах, как закупки.

Тем не менее, среди поставщиков много компаний, предлагающих ИИ практически для любой мыслимой проблемы. «Если вы кого-нибудь спросите:« У вас есть ИИ? », Они всегда ответят« да », - сказал Хавард-Грау. «Но определите, что это такое. Задайте вопрос:«Если искусственный интеллект - это ответ, то в чем вопрос?» Потому что вам лучше начать с вопроса:«Что нужно моему бизнесу?»

Уровень угрозы значительный в кибербезопасности АСУ ТП. Согласно исследованию Kaspersky за 2018 год, 49% из 321 промышленного респондента подвергались хотя бы одной атаке ежегодно. Фактическая цифра может быть выше, сказал Хавард-Грау, потому что вышеупомянутая цифра представляет собой атаки, которые организации готовы признать, что имели место.

В настоящее время термин ИИ используется множеством способов, и определения этого термина могут показаться философскими, потому что по-прежнему трудно понять в конкретных терминах, что такое интеллект. «С инженерной точки зрения трудно дать определение« умному », - сказал технический писатель Джарон Ланье в ходе дискуссии об ИИ в 2016 году. «Если вы не определите базовый уровень, который можно измерить, вы попали в страну фантазий». Он также добавил, что:«Многие системы, которые мы называем« умными », оторваны от эмпирического процесса».

Одним из предлагаемых вариантов использования систем искусственного интеллекта, а точнее машинного обучения, является их использование для обнаружения вредоносных программ или аномалий в сети. Если у вас есть базовые представления о том, как должна работать сеть, а также надежные алгоритмы машинного обучения и достаточный доступ к данным, эта технология может оказаться мощным средством быстрого обнаружения сетевых угроз и, со временем, потенциально снизить количество ложных срабатываний тревожных сигналов для потенциально подозрительного кода или сети. поведение. Учитывая тот факт, что отрасль кибербезопасности в целом борется со значительной нехваткой талантливых сотрудников, это большие перспективы.

Но для успеха система машинного обучения должна иметь доступ к релевантным данным. Если бизнес делает что-то, о чем система ИИ не знает, у вас могут возникнуть проблемы - в виде ложных тревог. Или, возможно, система контролируемого обучения, разработанная для исследования программного кода, была обучена на неверных данных, в результате чего алгоритм потенциально мог считать вредоносное ПО нормальным. Кроме того, злоумышленники могут модифицировать программное обеспечение поставщика средств безопасности, выдавая вредоносное ПО за обычный код. Другая возможность, упомянутая в статье Technology Review, заключается в том, что злоумышленники просто выясняют функции, которые модель машинного обучения использует для выявления вредоносных программ, и удаляют их из своего вредоносного кода.

В промышленном контексте может быть сложно ввести данные от оборудования, не ориентированного на ИТ-сеть или не использующего протокол ИТ TCP / IP. «Как ИИ работает с управляющей шиной 25-летней давности?» - спросил Хавард-Грау.

Чтобы показать потенциальную сложность запуска широкомасштабного проекта Интернета вещей в промышленной среде, Хавард-Грау приводит пример нефтеперерабатывающего завода, на котором установлено 500 традиционных ИТ-устройств, таких как физические рабочие станции, HMI, серверы и коммутаторы. «Это управляемо. Это похоже на небольшой офис. Я мог бы использовать сетевое отслеживание », - сказал он. Но затем, когда начальник службы безопасности спрашивает завод, сколько у него оконечных устройств OT, ответ - 28 500. Хотя одним из преимуществ ИИ в целом является его способность разбираться в огромных объемах разнообразных данных, генерируемых с большой скоростью, в действительности все еще сложно разобраться в сложных, исторически разрозненных данных. «Проблема не в количестве», - сказал Хавард-Грау. «Это задача - иметь 20 разных поставщиков. Допустим, у меня есть оборудование от ABB, Schneider Electric, Siemens, Yokogawa, Philips, GE и Honeywell », - сказал он. «Они все разные, по-разному будут говорить. Итак, как вы собираетесь перевести все эти разные вещи для начала, а затем ответить на вопрос:«Как выглядит хорошее?» - спросил Хавард-Грау.

Добавьте к этому сдвиг в подходе к кибербезопасности от предположения о том, что нарушения компаний - это всего лишь вопрос времени, до предположения, что ваша фирма уже была взломана, и сложность понимания того, как выглядит хорошее сетевое поведение, становится еще более сложной. Исследование, проведенное в 2018 году при поддержке IBM, показало, что корпоративным компаниям требуется в среднем 197 дней, чтобы выявить нарушение. Это плохая новость для потенциально скомпрометированных организаций, которые стремятся обучить модели машинного обучения на сложных сетевых топологиях.

Все это не означает, что ИИ не обладает значительным потенциалом для кибербезопасности АСУ ТП, просто промышленным компаниям, желающим внедрить эту технологию, следует начинать с определенных сценариев использования с изначально ограниченной сложностью данных. Как однажды написал Э. Ф. Шумахер:«Любой умный дурак может сделать вещи больше, сложнее и жестокее. Чтобы двигаться в противоположном направлении, нужно проявить гениальность и много мужества ».