Интернет всего: управление на базе ИИ для безопасности и приватности

Универсальный Интернет всего, который видит всё и знает всё, требует контроля: как дать технологиям более глубокий взгляд на нашу деятельность, избежав подводных камней приватности и безопасности? ИИ — почти наверняка единственный путь к такому контролю.

Представьте, что технологии помогают найти желаемую покупку по наименьшей цене. Что они предотвращают наезд автомобиля на пешехода. Что делают беспилотные транспортные средства полностью эффективными и безопасными, а потерю ориентации или незнание людей и ориентиров — невозможными. Всё это могло бы реализоваться единым набором инициатив, использующих уже имеющиеся знания и инструменты. Звучит нереально? Первое — да, второе — нет, возможно.

Концепция «Интернета вещей» была официально сформулирована Кевином Эштоном из MIT: «У людей ограниченное время, внимание и точность. Поэтому они плохо собирают данные о вещах в реальном мире. Если бы компьютеры знали всё о вещах, используя данные, собранные без нашего участия, мы могли бы отслеживать и считать всё, резко сокращая потери, отходы и затраты. Мы бы знали, когда вещи нужно заменить, отремонтировать или вернуть, и свежи ли они».

Суть в том, что речь идёт не об ограниченном современном IoT, а об универсальном Интернете всего, который видит всё и знает всё.

Сегодня у нас есть «знай-много», но не «знай-всё». Приложение может знать, что мы хотим купить, и где мы находимся. Оно может узнать цены в ближайших магазинах, но это требует большой сложности и затрат при малом эффекте. Если бы мы могли реализовать остальные сценарии, помощь в поиске нужного магазина стала бы дешевым дополнением, но мы пока не можем. У нас есть «знание», но нет «зрения».

Эта связка «видеть и знать» важна, потому что иллюстрирует плюсы и минусы человеко-ориентированного интернета и приложений. Мы видим и в реальном времени понимаем реальный мир. Датчики IoT… ну… чувствуют. Знание температуры, давления, местоположения и скорости полезно, но это не то же самое, что смотреть в окно машины при навигации. В 1999 году, когда Эштон говорил, у нас не было практического способа имитировать человеческое зрение для сбора данных. С ИИ у нас появилось это в «пространственных вычислениях», и мы могли бы реализовать всё перечисленное в первом абзаце — и даже больше.

Хорошо, если «у нас теперь есть» необходимое, почему таких приложений ещё нет? Я говорил о разрыве между видением и знанием, но не противоречит ли это идее, что у нас есть всё нужно? Если никакого гигантского технического прорыва не требуется, что же разблокирует это будущее? Ответ: технология не проблема, проблема — социальная.

«Большой брат смотрит за тобой» — крылатая фраза о риске тотального слежения. Мы могли бы выявлять преступников на улицах с повсеместными камерами, и та же технология предупреждала бы о выходе на проезжую часть. Но то же самое позволило бы преследовать людей, шпионить, раскрывать секреты. Учитывая, что средний человек считает: всё можно взломать, а многие верят, что государство уже шпионит, понятно, почему компании неохотно продвигают технологии «видит-всё-знает-всё», даже в узком применении.

Какое узкое применение? Один из моих контактов — известный трудовой юрист. Я спросил про видеонаблюдение для предотвращения несчастных случаев на производстве. Ответ: «любой профсоюз будет опасаться злоупотреблений, а любой работодатель будет отрицать это, пока не начнёт злоупотреблять». Другой контакт сказал, что обширный видеоконтроль для безопасности беспилотников неизбежно вызовет суды со стороны защитников приватности, поддерживаемых легионами людей, которые часто бывают там, где не должны.

Приватность важна для всех. Как и безопасность, здоровье, жизнь. Мы, возможно, достигли этапа эволюции технологий, когда придётся решить, как балансировать эти ценности. Страх перед неконтролируемым ИИ — пример такой тревоги? Думаю, да. И я думаю, что задолго до того, как ИИ поднимется и угрозит вымиранием, он может подниматься, чтобы спасать нас — или выставлять напоказ. Нам давили на создание ремней безопасности для ИИ, но эти давления в основном игнорировали самый широкий, самый влиятельный и самый неотложный аспект — способность ИИ в сочетании с видео позволять технологиям наблюдать за реальным миром, включая каждого из нас.

Очевидный ответ — управление, набор правил, ограничивающих использование, и технологии для их принуждения. Проблема, как часто бывает с «очевидным», в том, что установить правила сложно, а технически ограничить использование — ещё сложнее, и, вероятно, ещё труднее заставить людей в это верить. Вспомните три закона робототехники Азимова и сколько его историй посвящено обходу этих законов. Два десятилетия назад лаборатория провела эксперимент с видеосотрудничеством: маленькие камеры в офисах для удалённой связи. Половина сотрудников приклеивала камеры при входе. Я знаю людей, которые постоянно закрывают веб-камеры, когда не на запланированной видеоконференции, и вы, вероятно, тоже. А что, если индикатор не горит? Кто-то, наверное, уже взломал доступ.

Социальные опасения неизбежно сталкиваются с попытками тесно интегрировать технологии в нашу жизнь. Достигли ли мы точки, когда убедительное решение этих опасений становится необходимым для того, чтобы технологии дальше улучшали нашу работу и жизнь?

У нас уже есть широкое, если не универсальное, видеонаблюдение. На недавней прогулке я обнаружил камеры в дверных звонках или просто камеры примерно у четверти домов, а в коммерческих зонах, скорее всего, их ещё больше. Интересно, сколько людей беспокоятся, что их дверные звонки следят за ними во дворе. Меньше, чем тех, кто боится, что ИИ восстанет и убьёт их, а дверные звонки — реальны, а хищный ИИ — нет. Очевидно, мы можем отбросить такое мышление, перестать закрывать веб-камеры. Можем ли мы привыкнуть к универсальному видеоконтролю? Возможно, но лучше найти решение дилеммы управления.

Которое, возможно, и существует, благодаря ИИ, по двум причинам.

Чем мощнее и шире масштаб ИИ, тем сложнее ограничить способы его использования. С этим вряд ли кто-то спорит. Следовательно, изолированные, тематически сфокусированные экспертные ИИ-агенты проще контролировать. API можно защитить и управлять, но как защитить и управлять разговорными отношениями? Мы возвращаемся к законам Азимова, второй из которых — послушание. Давая чему-либо, включая ИИ, автономию, вы даёте потенциал для вмешательства. В контексте ИИ-видеонаблюдения риск выше, когда мы просим ИИ «поискать что-то», чем когда создаём ИИ-агента, который может искать только определённые вещи.

Мы также могли бы использовать экспертных ИИ-агентов для управления ИИ-приложениями. В машинном обучении уже существует стратегия «состязательного ИИ», направленная на обнаружение манипуляций с данными для обмана модели. Тот же подход применим к управлению использованием ИИ, особенно если ИИ спроектирован для выдачи только конкретных результатов, а не ответов на общие вопросы. Распознавание лиц, например, можно ограничить только лицами из государственного реестра преступников. Можно ли это взломать? Конечно, но не обычным сталкером или ревнивым супругом.

Реализация «Интернета всего» критична, если мы хотим продолжать продвигать технологии, усиливающие нашу работу и улучшающие жизнь. Контроль над тем, как мы создаём новый уровень близости с технологиями, избегая ям приватности и безопасности, показывая технологиям нашу деятельность — критичен для реализации Интернета всего, и ИИ почти наверняка единственный путь к такому контролю. Эта миссия ИИ — то, для чего нам нужно формулировать политики управления. Риск того, что ИИ погонят нас к вымиранию, намного меньше риска того, что ИИ не придёт на помощь.