Жизнь после Alexa:восстановление общественного доверия к IoT

Массовый сбор данных был нормой в течение многих лет, но ситуация начинает меняться:пользователи внедряют инструменты и сервисы, ориентированные на конфиденциальность, в рекордных количествах

Всего несколько лет назад «умные домашние помощники» были новейшей технологией «must-have». Несмотря на то, что они имели ограниченную функциональность, их новизна в сочетании с относительно низкой ценой (и стратегическим снижением цен во время праздников) делала их почти неотразимыми для потребителей. Внезапно технологические компании получили доступ к большему количеству личной информации, чем они знали, что с ней делать. На самом деле, по состоянию на прошлый год умные колонки были в более чем полумиллиарде домов по всему миру.

См. также: Конфиденциальность — ключевая проблема, тормозящая крупные проекты умного города

Однако совсем недавно эти устройства стали терять популярность у публики. Почти каждую неделю возникает новый скандал с конфиденциальностью данных, и в результате люди начинают больше заботиться о том, кто имеет доступ к их личной информации. Для многих идея иметь всегда на связи, всегда слушающего помощника уже не так привлекательна.

Технологические компании потеряли доверие общественности, но умные помощники по-прежнему обладают большим потенциалом, особенно с учетом того, насколько полезными они могут стать благодаря будущим достижениям в области машинного обучения. Двигаясь вперед, производители умных динамиков должны доказать, что их продукты заслуживают второго шанса, и лучший способ сделать это — тщательно изучить их подход к конфиденциальности пользователей.

Какую информацию хранят умные помощники?

Точные собираемые данные зависят от производителя устройства и возможностей записи (например, устройство со встроенной камерой может записывать видеоклипы или сообщать об уровне внешней освещенности в разное время суток). Однако главная проблема, по крайней мере, на данный момент, это звук. В частности, сколько всего записывается, почему это записывается и что делается с записью после того, как она попадает на серверы компании.

Голосовые помощники технически всегда слушают, но они не будут обрабатывать запросы, пока не услышат определенное слово-триггер. Эти триггеры специально выбираются из необычных последовательностей слогов (например, «ОК, Google» или «Alexa»), чтобы говорящий мог легче идентифицировать их в повседневном разговоре.

Проблема в том, что алгоритмы не безошибочны. В результате умные помощники могут неправильно расслышать триггерное слово и начать запись звука без ведома владельца. Если алгоритм не уверен, было ли произнесено триггерное слово, он отправляет аудиозапись сотрудникам компании по проверке, которые принимают окончательное решение. Теоретически такой вид наблюдения помогает уменьшить количество ложных срабатываний, но на практике это означает, что в любой момент люди могут услышать, что произошло в вашем доме за несколько минут до этого.

Однако путешествие ваших данных на этом не заканчивается. Затем запись расшифровывается (и, возможно, аннотируется персоналом), прежде чем обе версии будут сохранены на серверах компании (где они останутся на неопределенный срок, даже если вы удалите разговоры, хранящиеся локально на вашем устройстве). Если вы отправили запрос, действия вашего помощника в ответ также могут быть записаны.

Более безопасно ли индивидуально управлять устройствами IoT, чем использовать интеллектуального помощника?

Гипотетически, управление умными лампочками, розетками и термостатами с помощью соответствующих приложений не позволяет вашему умному помощнику собирать данные о других ваших устройствах. Тем не менее, есть большая вероятность, что эти устройства также собирают некоторую информацию, а малоизвестные бренды вряд ли будут публиковать подробную информацию о конфиденциальности, поэтому трудно точно знать, какой вариант безопаснее.

Предположим, что ваш производитель умных лампочек может видеть основную информацию о ваших привычках использования в режиме реального времени:какого цвета свет, его текущая интенсивность цвета и включен свет или нет. По словам исследователей из Техасского университета в Сан-Антонио, этого достаточно, чтобы определить, какую песню вы слушаете (при условии, что у вас есть такие лампочки, которые меняют цвет в ответ на музыку). Этот эксперимент был довольно ограниченным по масштабу, но если многомиллиардная компания с миллионами часов голосовых данных решит воспроизвести его, вполне возможно, что она сможет прослушивать ваши разговоры, даже не используя микрофон.

Даже относительно простые устройства, такие как смарт-сокеты, собирают информацию. Одна из наиболее широко известных моделей записывает данные за 45 дней, включая уровни ежедневного использования, мощность соединения Wi-Fi, стоимость электроэнергии за кВтч и время нахождения устройства в режиме ожидания. Этой информации достаточно, чтобы сделать обоснованное предположение о том, работаете вы или нет, сколько людей с вами и (если у вас несколько смарт-розеток) примерный план вашего дома. Эта конкретная модель также включает в себя порт micro-USB, который, по мнению производителя, может использоваться для дополнительных датчиков в будущем.

Технологические гиганты должны пересмотреть свой подход к конфиденциальности

Если общественность хочет и дальше пользоваться умными помощниками, она должна чувствовать, что ее конфиденциальность соблюдается. Организации начинают делать небольшие шаги в этом направлении, например, добавляя крышки камер к своим устройствам, однако подобные символические жесты упускают главное:людей не беспокоит то, что может видеть их устройство, их беспокоит то, что это не так. вообще смотреть.

Проблема не в самой технологии:в конце концов, голосовые помощники могут быть чрезвычайно полезны, особенно для людей с ограниченной подвижностью или зрением. Вместо этого проблема заключается в том, что компании, создающие эти устройства, придерживаются мышления «собирать все», что просто несовместимо с конфиденциальностью пользователей. Приняв изложенный ниже трехэтапный подход, ориентированный на конфиденциальность, технологические гиганты могут осмысленно развеять опасения пользователей. Это, в свою очередь, гарантирует, что существующие клиенты будут продолжать пользоваться сервисом, а некоторых даже может побудить к обновлению при выпуске новых моделей. .

1. Откажитесь от секретности

Люди настолько привыкли к проблематичным политикам конфиденциальности, что просто принимают их автоматически. В конце концов, альтернатива — не использовать устройство, за которое вы уже заплатили. В будущем умные помощники должны собирать только те данные, которые строго необходимы для конкретной задачи, и эта информация должна быть удалена (как локально, так и из записей производителя) после того, как она выполнила свою задачу. Пользователи также должны иметь возможность отказаться от определенных функций, если они не согласятся предоставить необходимые разрешения, так же, как вы можете сделать с приложениями на мобильном телефоне.

Как это будет работать на практике? Допустим, вы хотели проложить маршрут до определенного ресторана. Ваш помощник должен знать как ваше текущее местоположение, так и пункт назначения. Он также может запросить ваше предполагаемое время в пути, чтобы найти информацию об общественном транспорте и в ближайшее время, но это не критические данные, и их следует учитывать только в том случае, если пользователь предоставляет их добровольно. Как только пользователь прибывает, его данные назначения больше не нужны и могут быть безопасно удалены (опять же, если пользователь специально не добавляет местоположение в адресную книгу).

В приведенном выше примере пользователю удается без проблем добраться до места назначения, несмотря на предоставление минимальной информации. Напротив, если бы вы попробовали это с современными устройствами, ваш умный помощник мог бы узнать не только, куда вы идете, но и что это за заведение, как часто вы посещаете и насколько оно популярно среди других в вашем районе. . Эта функция не используется для улучшения вашего опыта; он используется для создания рекламного профиля и поэтому может обойтись без незаметного воздействия на пользователя.

2. Предоставьте пользователям инструменты, необходимые им для управления собственными данными

Проще говоря, пользователей не следует наказывать за то, что они заботятся о конфиденциальности. Если люди действительно согласны разглашать свою личную информацию, они сначала должны понять, что это значит. Компании больше не должны запутывать свою политику сбора данных десятками страниц юридической терминологии; клиенты должны иметь возможность точно видеть, какая информация записывается. Что еще более важно, эта информация должна быть в понятном формате, без полуправды о метаданных или анонимных наборах данных. Пользователи также должны быть проинформированы о том, почему записывается каждый фрагмент данных и как они могут удалить его, если захотят.

В наши дни могут потребоваться недели, чтобы узнать, какие данные о вас хранит конкретная компания. Некоторые веб-сайты делают этот процесс проще, чем другие, но вы все равно можете ожидать, по крайней мере, несколько часов после того, как найдете подходящую опцию в лабиринте подменю.

Почему просмотр вашей личной информации не должен быть настолько простым, насколько это возможно? Пользователи должны иметь возможность решать для себя, заслуживает ли компания доступа к их данным или нет. В будущем просматривать данные должно быть гораздо проще, но на этом останавливаться не нужно.

Например, на данный момент большинство умных помощников не позволяют пользователям автоматически удалять голосовые записи или просматривать подробную статистику, например, как часто их аудиоклипы направлялись на ручную проверку. Это не особенно продвинутые функции, но они будут иметь большое значение для восстановления общественного доверия и создания репутации прозрачной, заботящейся о конфиденциальности технологической компании.

3. Сведите вмешательство третьих лиц к минимуму

Самые известные умные помощники работают годами. В совокупности они имеют доступ к более широкому спектру голосовых данных, чем кто-либо другой, со всеми видами языков и акцентов. Если после миллионов долларов инвестиций и нескольких лет отладки алгоритма персоналу по-прежнему часто приходится вручную вмешиваться, чтобы увидеть, использовалось ли триггерное слово, компаниям, возможно, придется признать, что нынешние методы просто не работают.

Существует множество других способов уменьшить количество ложных срабатываний, не заставляя пользователей беспокоиться о том, кто их слушает. Например, ограничив часы работы вашего помощника, вы уменьшите вероятность того, что фоновый шум будет ошибочно принят за слово-триггер. динамики уже позволяют пользователям создавать индивидуальные процедуры, такие как воспроизведение музыки в определенное время каждый день; эту технологию почти наверняка можно расширить, чтобы запланировать «тихое время» (например, ранние утренние часы), когда ассистент просто не будет реагировать на словесные команды.

Некоторые сервисы недавно внедрили индивидуальное распознавание голоса, при котором помощник будет отвечать только определенным людям. Однако при этом помощник обучается, используя лишь несколько фраз (вероятно, для максимального удобства пользователя). Это может привести к ситуациям, когда он будет принимать команды от людей, у которых такой же акцент или тон, как у авторизованного пользователя. Напротив, большее количество обучающих фраз должно помочь ассистенту сосредоточиться на том, что действительно делает голос человека уникальным, тем самым уменьшая диапазон принимаемых входных данных и, в свою очередь, количество ложных срабатываний.

Наконец, помощники в домохозяйствах с аномально большим количеством ложных срабатываний могут предложить функцию, которая записывает фоновый шум в разное время суток. Затем это можно использовать для адаптации модели распознавания речи к конкретным домам, чтобы снизить вероятность срабатывания таких факторов окружающей среды, как движение на улице, самолеты над головой или неслышные частоты.

Нынешняя практика сбора данных не может продолжаться долго

Единственная реальная проблема, с которой люди сталкиваются с умными домашними помощниками, заключается в том, что они чувствуют, что за ними наблюдают. Проблема в том, что они правильные. Массовый сбор данных был нормой в течение многих лет, но ситуация начинает меняться, и пользователи в рекордных количествах внедряют инструменты и услуги, ориентированные на конфиденциальность. У умных помощников огромный потенциал, но в конечном счете, если их создатели не смогут адаптироваться к этому новому подходу, ориентированному на пользователя, они рискуют остаться позади.