Восстановление публичного доверия к IoT после Alexa: новая эра приватности

Массовый сбор данных был нормой годами, но прилив начинает поворачиваться, с пользователями, принимающими приватность-центричные инструменты и сервисы в рекордных числах.

Всего несколько лет назад умные домашние ассистенты были последней «must-have» технологией. Даже если у них была ограниченная функциональность, их новизна, в паре с относительно низкой ценовой точкой (и стратегическими снижениями цен во время праздников) сделали их почти неотразительными для потребителей. Вдруг, технологические компании получили доступ к больше личной информации, чем они знали, что с ней делать. Фактически, по состоянию на прошлый год, были умные колонки в более чем полумиллиарде домов по всему миру.

См. также: Приватность — ключевой вопрос, задерживающий крупные Smart City проекты

Недавно, хотя, эти устройства начали выпадать из любимцев публики. Почти каждую неделю есть новый скандал приватности данных, и в результате люди начинают больше заботиться о том, у кого есть доступ к их личной информации. Для многих, идея иметь всегда-включенного, всегда-слушающего ассистента не совсем так привлекательна больше.

Технологические компании потеряли доверие публики, но умные ассистенты все еще имеют много потенциала, особенно учитывая, насколько полезными они могли бы стать с будущими достижениями в машинном обучении. Двигаясь вперед, бремя на производителях умных колонок доказать, что их продукты заслуживают второй шанс, и лучший способ сделать это — с долгожданным пересмотром их подхода к приватности пользователей.

Какую информацию хранят умные ассистенты?

Точные данные, которые собираются, варьируются в зависимости от производителя устройства и возможностей записи (блок с встроенной камерой, например, может записывать видеоклипы или сообщать об уровнях окружающего света в разное время дня). Однако главная проблема, по крайней мере для сейчас, — аудио. Конкретно, сколько записывается, почему оно записывается, и что делается с записью, как только она достигает серверов компании.

Голосовые ассистенты технически всегда слушают, но они не будут обрабатывать запросы, пока не услышат конкретное триггерное слово. Эти триггеры специально выбраны как необычные последовательности слогов (например, «OK, Google», или «Alexa»), так чтобы колонка могла легче идентифицировать их из повседневного разговора.

Проблема в том, что алгоритмы не неошибны. В результате умные ассистенты могут неверно услышать триггерное слово и начать запись аудио без ведома владельца. Если алгоритм не уверен, было ли сказано триггерное слово, он отправляет аудиоклип в штат верификации компании, которые принимают финальное решение. В теории, такой вид надзора помогает снизить количество ложных срабатываний, но на практике это значит, что в любой момент люди могут слушать то, что произошло в вашем доме всего несколько мгновений назад.

Путь ваших данных не заканчивается там. Запись затем транскрибируется (и возможно аннотируется персоналом) перед тем, как обе версии хранятся на серверах компании (где они остаются бессрочно, даже если вы удаляете разговоры, сохраненные локально на вашем устройстве). Если вы сделали запрос, действия, которые ваш ассистент предпринял в ответ, также могут быть записаны.

Безопаснее ли индивидуально управлять IoT-устройствами, чем использовать умного ассистента?

Гипотетически, контроль умных лампочек, розеток и термостатов с использованием их соответствующих приложений предотвращает сбор вашим умным ассистентом данных о ваших других устройствах. Тем не менее, есть хороший шанс, что эти устройства также собирают какую-то форму информации, и менее известные бренды маловероятно сделают детальную информацию о приватности публично доступной, так что трудно знать наверняка, какой вариант безопаснее.

Предположим, что ваш производитель умных лампочек может видеть базовую информацию о ваших привычках использования в реальном времени: какой цвет у света, его текущая интенсивность цвета, и включен ли свет или нет. Согласно исследователям из Университета Техаса в Сан-Антонио, этого достаточно, чтобы идентифицировать, какую песню вы слушаете (предполагая, что у вас такой вид лампочек, которые меняют цвет в ответ на музыку). Этот эксперимент был довольно ограничен в масштабе, но если мульти-миллиардная компания с миллионами часов голосовых данных решила его реплицировать, это полностью возможно, что она могла бы подслушивать ваши разговоры даже без необходимости использовать микрофон.

Даже относительно простые устройства вроде умных розеток собирают информацию. Одна из самых широко признанных моделей записывает 45 дней данных, включая ваши ежедневные уровни использования, силу Wi-Fi-соединения, сколько стоит ваша электричество за кВтч, и как долго устройство было в режиме ожидания. Этого достаточно информации, чтобы сделать разумное предположение о том, работаете ли вы или нет, сколько людей с вами, и (если у вас несколько умных розеток), примерную планировку вашего дома. Эта конкретная модель также включает micro-USB порт, который производитель предлагает может быть использован для дополнительных датчиков в будущем.

Технологические гиганты должны пересмотреть свой подход к приватности

Если публике предстоит продолжать принимать умных ассистентов, они должны чувствовать, что их приватность уважается. Организации начинают делать маленькие шаги в этом направлении, например, добавляя чехлы для камер на свои устройства, однако жестовые жесты вроде этих пропускают суть: люди не волнуются о том, что их устройство может увидеть, они обеспокоены тем, что оно вообще смотрит.

Сама технология не проблема: в конце концов, голосовые ассистенты могут быть крайне полезны, особенно для людей с ограниченной подвижностью или зрением. Вместо этого проблема в том, что компании, создающие эти устройства, имеют мышление «собирать всё», которое просто не совместимо с приватностью пользователей. Приняв трехшаговый подход privacy-first, изложенный ниже, технологические гиганты могут умиротворить заботы пользователей значимым способом. Это, в свою очередь, обеспечит, что существующие клиенты продолжат использовать сервис и могут даже поощрить некоторых к апгрейду, когда выйдут новые модели.

1. Отказаться от секретности

Люди так привыкли к проблемным политикам приватности, что они просто принимают их автоматически. В конце концов, альтернатива — не использовать устройство, за которое вы уже заплатили. Двигаясь вперед, умные ассистенты должны собирать только данные, строго необходимые для конкретной задачи, и эта информация должна быть удалена (как локально, так и из записей производителя), как только она исполнила свою цель. Пользователи также должны иметь возможность отказаться от определенных функций, если они не согласны предоставить требуемые разрешения, так же как вы можете делать с приложениями на мобильном телефоне.

Как это работало бы на практике? Допустим, вы хотели получить направления к конкретному ресторану. Вашему ассистенту нужно знать как ваше текущее местоположение, так и пункт назначения. Он также может спросить ваше намеченное время в пути, чтобы найти информацию о общественном транспорте и так далее, но это не критические данные, и должны рассматриваться только если пользователь дает их добровольно. Как только пользователь приезжает, их данные о пункте назначения больше не нужны, и могут быть безопасно отброшены (снова, если пользователь специально не добавляет местоположение в адресную книгу).

В примере выше пользователь управляет добраться до пункта назначения без каких-либо проблем, несмотря на предоставление минимальной информации. В противовес, если вы попытаетесь это с современными устройствами, ваш умный ассистент мог узнать не только куда вы идете, но какой тип заведения это, как часто вы его посещаете, и насколько популярно оно с другими в вашем районе. Эта функциональность не используется для улучшения вашего опыта; она используется для построения рекламного профиля и как таковая, может быть отброшена без заметного влияния на пользователя.

2. Предоставить пользователям инструменты для управления своими данными

Просто сказано, пользователи не должны быть наказаны за то, что они заботятся о приватности. Если люди должны действительно согласиться отдать свою личную информацию, они сначала должны понять, что это значит. Компании больше не должны обфусцировать свои политики сбора данных в десятках страницах юридической терминологии; клиенты должны иметь возможность видеть точно, какой вид информации записывается. Что более важно, эта информация должна быть в легко понятном формате, свободном от полуправд о метаданных или анонимизированных наборах данных. Пользователи также должны быть информированы, почему каждый кусок данных записывается, и как они могут его удалить, если они так выбирают.

В эти дни это может занять недели, чтобы узнать, какие данные конкретная компания держит на вас. Определенные веб-сайты делают этот процесс легче других, но вы все равно можете ожидать подождать хотя бы несколько часов после нахождения подходящей опции в лабиринте подменю.

Почему просмотр вашей личной информации не должен быть максимально простым? Пользователи должны иметь возможность решить сами, заслуживает ли компания доступ к их данным или нет. В будущем это должно быть гораздо легче просматривать свои данные, но нет необходимости останавливаться там.

Например, в данный момент большинство умных ассистентов не позволяют пользователям автоматически удалять голосовые записи или просматривать детальную статистику, такую как как часто их аудиоклипы направлялись на ручную верификацию. Это не особенно продвинутые функции, но они бы пошли далеко к восстановлению публичного доверия и построению репутации прозрачной, приватности-сознательной технологической компании.

3. Свести вмешательство третьих сторон к минимуму

Самые известные умные ассистенты работают годами. Коллективно они имеют доступ к более широкому диапазону голосовых данных, чем кто-либо когда-либо, со всеми видами языков и акцентов, представленными. Если, после миллионов долларов инвестиций и лет тонкой настройки алгоритма, персонал все еще часто вынужден вручную вмешиваться просто для того, чтобы увидеть, было ли использовано триггерное слово, компаниям может потребоваться принять, что текущие методы просто не работают.

Есть много других способов снизить количество ложных срабатываний без заставления пользователей волноваться о том, кто слушает. Например, ограничив часы, в которых ваш ассистенционный операционен, вы снижаете шанс того, что фоновый шум будет неверно идентифицирован как триггерное слово. Многие умные колонки уже позволяют пользователям создавать кастомизированные рутины, такие как воспроизведение музыки в определенное время каждый день; эта технология почти наверняка может быть расширена для планирования «тихих времен» (таких как ранние утренние часы), где ассистент просто не будет отвечать на вербальные команды.

Некоторые сервисы недавно приняли индивидуальное распознавание голоса, где ассистент будет отвечать только конкретным людям. Однако это обучает ассистента используя лишь горсть фраз (вероятно, для максимизации удобства пользователя). Это может привести к ситуациям, где он принимает команды от людей, которые просто имеют похожий акцент или тон как авторизованный пользователь. В противовес, большее число тренировочных фраз должно помочь ассистенту фокусироваться на том, что действительно делает голос человека уникальным, тем самым сокращая диапазон принятых входов и в свою очередь, количество ложных срабатываний.

Наконец, ассистенты в домохозяйствах с аномально высоким числом ложных срабатываний могут предложить функцию, записывающую фоновый шум на нескольких разных временах дня. Это затем может быть использовано для адаптации модели распознавания речи для конкретных домов так, что она менее вероятно будет срабатывать на экологические факторы вроде трафика снаружи, самолетов над головой или не слышимых частот.

Текущие практики сбора данных не могут длиться вечно

Единственная реальная проблема, которую люди имеют с умными домашними ассистентами, в том, что они чувствуют, что их смотрят. Проблема в том, что они правы. Массовый сбор данных был нормой годами, но прилив начинает поворачиваться, с пользователями, принимающими приватность-центричные инструменты и сервисы в рекордных числах. Умные ассистенты имеют огромный потенциал, но в конечном счете, если их создатели не адаптируются к этому новому, user-first отношению, они рискуют быть оставленными позади.