Интеллектуальная обработка голосовых данных увеличивает время автономной работы

Благодаря устройствам с постоянным прослушиванием стало намного проще проигрывать музыку, включать смарт-телевизор, выключать термостат и даже предупреждать нас, когда кто-то вторгается в дом. Но они заставляют нас слишком часто включать их в сеть переменного тока или заменять батареи.

Хотя иногда кажется, что голосовые помощники присутствуют в нашей жизни десятилетиями, только в конце 2014 года Amazon выпустила первый умный динамик Amazon Echo. Пять лет спустя у нас теперь есть сотни миллионов цифровых голосовых помощников, установленных в умных колонках, системах умного дома, носимых и других умных устройствах, которые всегда прислушиваются к пробуждающему слову. Согласно последнему исследованию SAR Insight &Consulting, к 2023 году установленная база постоянно включенных голосовых устройств вырастет почти до 1 миллиарда.

Датчики, которые первыми сделали возможным постоянное прослушивание и голосовую связь, - сверхминиатюрные микрофоны микроэлектромеханических систем (МЭМС) размером с кончик карандаша - фиксируют данные о звуке окружающей среды. Поначалу казалось прекрасным решением обрабатывать эти данные в облаке, анализируя звук для пробуждения слов и команд. Но экспоненциальный рост количества голосовых помощников и других постоянно включенных устройств IoT производит так много данных - 41,6 миллиарда устройств IoT генерируют 79,4 зеттабайт данных в 2025 году, по данным International Data Corp. ¹ - что мы перенапрягаем общую пропускную способность и непреднамеренным следствием этого создаем неэффективность затрат и энергопотребления. Это побуждает полупроводниковую промышленность искать новые способы внедрения в устройства некоторых из этих мощных облачных вычислений - возможности, называемой периферийной обработкой.

Проблемы на грани

Успех периферийных вычислений во многом зависит от быстрого распространения маломощных процессоров цифровых сигналов и микроконтроллеров, некоторые из которых включают встроенную нейронную сеть, то есть крошечный чип машинного обучения (TinyML). Эти микросхемы, в основном цифровые, могут обрабатывать сложный анализ данных, например определять, произнесено ли пробуждающее слово, прямо на устройстве. Но хотя эти микросхемы теперь могут быть такими же умными, как мозг, они по-прежнему полагаются на оригинальную системную архитектуру, которая использовалась в первом постоянно включенном сенсорном устройстве, которое требует немедленного преобразования всего звука, который, естественно, является аналоговым, в звуковой сигнал. цифровой сигнал. Это верно, даже когда звук, например лай собаки или плач ребенка, не может содержать слова для пробуждения. Этот старый подход к постоянному прослушиванию, расходующий электроэнергию и данные, ставит OEM-производителей на путь столкновения с неудовлетворенностью потребителей.

Потребители по-прежнему ожидают такой же или более высокой производительности от все меньших умных устройств, которые всегда слушают, которые могут поместиться в кармане или даже в ухе, но без потери времени автономной работы. Это ставит OEM-производителей в сложное положение, потому что, если они останутся с устаревшей архитектурой, они будут продолжать тратить от 80% до 90% времени автономной работы на обработку бессмысленных данных. Они будут вынуждены заставить потребителей выбрать меньшее из двух зол:непортативный голосовой помощник, который нужно подключить к стене, или портативный голосовой помощник, который можно взять с собой куда угодно, но ему мешает короткое время автономной работы.

Поскольку перемещение данных через систему требует затрат электроэнергии, наиболее эффективный способ экономии энергии - как можно скорее сократить объем данных до того, что является важным. Если мы действительно хотим решить проблему мощности, которую постоянно слушают, нам нужна новая парадигма, которая более точно имитирует способность мозга эффективно обрабатывать огромные объемы данных, поступающих от сенсорной системы человека в любой данный момент. Потратьте немного энергии заранее, чтобы определить, что является актуальным, и сэкономьте большую часть ресурсов для обработки только самых важных данных.

Звук естественно аналоговый

Чтобы увеличить время автономной работы постоянно прослушивающих устройств, необходимо использовать технологию, которую многие современные инженеры считают устаревшей и пугающей: аналоговая . Работать с необработанными, неструктурированными аналоговыми сигналами реального слова, а именно с осязанием, зрением, слухом и вибрацией, сложно. С момента появления первой цифровой интегральной схемы было намного проще создавать продукты, которые обрабатывают сигналы датчиков со знакомыми единицами или нулями, чем напрямую обрабатывать аналоговые данные, которые считываются. (Вот почему постоянно включенные устройства немедленно преобразуют аналоговый вход в цифровые сигналы, прежде чем делать что-либо еще.)

В то время как цифровые технологии эффективно решали проблемы обработки данных за последние 50 лет, они, возможно, наконец-то натолкнулись на стену в законах физики. Замедление масштабирования цифровых устройств заставило технологов проявить творческий подход к микросхемам внутри устройства. В данном случае эта креативность претерпела два фундаментальных изменения:более стратегическое использование цифровых технологий, чтобы цифровые чипы выполняли тяжелую обработку только тогда, когда это необходимо; и использовать присущую аналоговым схемам низкую мощность в сочетании с машинным обучением, чтобы провести первый раунд анализа, который определяет, присутствует ли голос, в то время как звуковые данные все еще находятся в своем естественном аналоговом состоянии. Это удерживает микросхемы цифровой обработки в спящем режиме с низким энергопотреблением до тех пор, пока они действительно не потребуются для «прослушивания» ключевого слова.

Путь к большей энергоэффективности в постоянно включенных устройствах лежит не в том, чтобы каждый чип «думал как мозг», а в переосмыслении архитектуры системы, которая больше похожа на сенсорную систему человека, постепенно анализируя звук по слоям, чтобы сосредоточить большую часть энергии о самом главном.

Обработка кромок, вдохновленная биологией (внизу), фокусирует мощь цифровой обработки на наиболее важных сенсорных данных. (Изображение:Aspinity)

Все выигрывают

Стремление к увеличению срока службы батарей побудит разработчиков систем принять новую архитектурную парадигму, в которой меньшее количество обработки данных означает большее время автономной работы. Находясь на периферии, аналоговая микросхема машинного обучения может действовать как интеллектуальный диспетчер трафика, позволяющий микросхемам цифровой обработки оставаться в спящем режиме, если они не нужны. Этот вдохновленный биологией подход к непрерывной обработке данных позволяет аналоговым и цифровым процессорам выполнять ту работу, в которой они наиболее эффективны, что делает потребителя окончательным победителем. В конце концов, кому не нужен голосовой пульт от телевизора, который работает в течение года от одного набора батареек?

Ссылка

¹ Международная корпорация данных. Глобальный прогноз данных по устройствам Интернета вещей DataSphere и данным на 2019–2023 гг. Июнь 2019 г.

>> Эта статья была первоначально опубликована на наш дочерний сайт EE Times Europe.