Искусственный интеллект еще не готов для кибербезопасности промышленных систем управления

Когда Google Duplex впервые заговорил по телефонной линии ресторана, он звучал почти человечно. Демо показывало, что ИИ может сегодня: выполнять узкие, заскриптованные разговоры с жуткой беглостью. Тем не менее, та же технология, теперь доступная в 43 штатах США для пользователей Google Pixel, подсвечивает пределы сегодняшнего ИИ — способного на рутинные взаимодействия, но все еще далекий от решения сложностей промышленных систем управления (ICS).

Другие высокопрофильные ИИ-проекты подчеркивают этот разрыв. Project Debater IBM может строить убедительные аргументы, но его голос остается роботизированным, а понимание — абстрактным. Оба примера иллюстрируют, что самый продвинутый ИИ приходит от компаний с глубокими карманами и массивными датасетами — но даже они предупреждают, что алгоритмы могут фейлить, данные могут быть предвзятыми, и неправильные практики могут эродировать доверие.

Маркетинговые нарративы часто маслят ИИ как панацею для бизнес-вызовов, обещая сделать смысл из огромных объемов промышленных данных и укрепить безопасность систем управления. Промышленная аналитика, примененная к машинным данным, драйвит конвергенцию OT и IT и топливает Четвертую промышленную революцию, согласно Industrial Internet of Things Analytics Framework от Industrial Internet Consortium.

Кибербезопасность ветеран Джейсон Хаворд-Грау, CISO PAS Global, отмечает: «роботизированная автоматизация процессов, вероятно, гораздо интереснее, с ИИ-перспективы, чем ИИ в безопасности». Он аргументирует, что вендоры могут претендовать, что они предлагают ИИ для каждой проблемы, но бизнесы должны сначала спросить: «Чего моя организация нуждается?» и затем определить, является ли ИИ ответом.

Уровни угроз остаются высокими. 2018 исследование Kaspersky нашло, что 49% из 321 промышленных респондентов сообщили о как минимум одной атаке в год — недорепорт, вероятно, недооценивающий истинную цифру.

Определение ИИ — это сама по себе философская проблема. Технологический писатель Джарон Ланиер предупредил в 2016, что без измеримой базы «вы уходите в фантазийную страну». На практике это значит, что многие системы, маркированные «smart», лишены эмпирического заземления.

Конкретный кейс: детекция малвари и аномалий

С надежной сетевой базой и robust ML-алгоритмами, обученными на достаточных данных, ИИ может быстро флагать угрозы и редуцировать false positives. Это особенно ценно данный дефицит кибербезопасностных талантов.

Однако успех зависит от релевантности данных. Если система не осведомлена о определенных бизнес-процессах, она может генерировать ложные алермы. Более того, обучение на flawed данных может заставить малварь быть误классифицированной как benign. Адверсары могут даже реверс-инжинирить фичи модели для эвазии детекции.

Промышленные среды: дополнительные барьеры

Промышленные среды представляют дополнительные препятствия. OT-устройства часто не используют стандартные IT-протоколы, и легаси контрольные шины (например, 25-летняя система) трудны для ИИ интерпретации. Хаворд-Грау иллюстрировал это на примере рефинери: пока 500 IT-устройств могут быть мониторены через нетворк-трекинг, 28 500 OT-эндпоинтов от множественных вендоров (ABB, Schneider Electric, Siemens, Yokogawa, Philips, GE, Honeywell) представлют фрагментированный ландшафт данных, усложняющий ИИ-перевод и определение «хорошего» поведения.

Сдвиг от «это только вопрос времени, когда нас взломают» к «мы уже скомпрометированы» усиливает сложность установления нормального сетевого поведения. IBM-поддержанное 2018 исследование показало, что в среднем предприятиям требуется 197 дней для детекции взлома — время, которое может эродировать надежность ML-моделей, обученных на эволюционирующих сетевых топологиях.

ИИ держит обещание для промышленной кибербезопасности, но адопция должна начинаться с well-defined кейсов, лимитирующих сложность данных. Как сказал Э. Ф. Шумахер: «Нужно щепотка гениальности — и много мужества — чтобы двигаться в противоположном направлении». Для промышленных лидеров это значит начинать с малых, управляемых проектов перед масштабированием ИИ по всему их OT-ландшафту.