Могут ли нейросети, вдохновленные насекомыми, перевернуть ИИ для Интернета вещей?

Исследователи изучают, как функции конкретных нервных систем насекомых напоминают функции детерминированной, вероятностной, волатильной и неволатильной памяти, и как эти функции можно воссоздать в высокопроизводительных, энергоэффективных кремниевых наносистемах для ИИ.

В одном углу мира ИИ/ML компания NVIDIA старается убедить всех, кто хочет прикоснуться к обучению, что ответ — в большей чистой мощности. В другом углу CEA-Leti недавно объявила, что Элиза Вианелло, координатор программы Edge AI, получила грант в 3 млн евро от Европейского исследовательского совета (ERC) на разработку новых систем пограничного ИИ, вдохновленных нервными системами насекомых.

По словам Вианелло, одной из главных проблем внедрения ИИ непосредственно в устройства IoT, что позволило бы им принимать автономные решения, сравнивая ввод сенсоров с обучающими данными и деревьями решений, заключается в том, что текущие чиповые архитектуры тратят до 90% общего энергопотребления на перемещение данных, а не на их обработку.

См. также: Исследователи превзошли методы распознавания речи с помощью пчел

Из-за этого расточества устройства IoT либо ограничены в возможностях ИИ, либо должны быть физически привязаны к стабильному источнику питания, что делает их далеко не такими гибкими, как хотели бы многие организации. Вдвойне это верно для одного предложенного приложения — имплантируемых медицинских диагностических микрочипов, которые в высокой степени полагаются на доверие пользователя к надежности устройства.

В чем проблема мелкомасштабных устройств? Не существует типа памяти, который был бы одновременно высокоплотным, высокоразрешающим, неволатильным и бесконечно долговечным. Вианелло говорит, что многие отраслевые лаборатории и исследовательские центры пытались разрабатывать архитектуры in-memory в наномасштабе, использующие in-memory processing, но результаты были разными в лучшем случае. DRAM, например, волатилен — его содержимое удаляется при потере питания, что вероятно во многих сценариях IoT. Неволатильные типы памяти, такие как NVRAM, за годы значительно улучшили долговечность, но всё ещё не являются абсолютно надежными.

Вианелло и ее команда используют грант для изучения того, как функции конкретных нервных систем насекомых напоминают функции детерминированной, вероятностной, волатильной и неволатильной памяти, а затем исследуют, как их можно воссоздать в «высокопроизводительных, энергоэффективных, кремниевых наносистемах». Вианелло говорит: «Сверчки принимают точные решения, опираясь на медленные, неточные и ненадежные нейроны и синапсы, чтобы сбежать от хищников. Изучая их биологию, мы выявили разнообразие функций, похожих на память, в их сенсорных и нервных системах. Комбинируя эти разные функции, внутренняя вычислительная система сверчка достигает удивительной производительности и энергоэффективности».

Например, у сверчков несколько сенсоров на теле, а также многочисленные локальные блоки обработки в брюшке, способные к непрерывному обучению и принятию решений без участия центрального мозга. Благодаря распределенной вычислительной системе они принимают решения быстрее — без необходимости передавать данные из одного места в другое перед обработкой.

Цель — гибридный синапс, способный интегрировать более одной технологии памяти в небольшом, подходящем для IoT масштабе, что поможет обойти недостатки каждой системы и устранить хотя бы часть энергии, тратимой на передачу данных вместо их обработки с помощью алгоритмов ИИ/ML. Команда Вианелло надеется брать небольшие объемы шумных данных, таких как захватываются видеокамерами, радарами или ЭКГ-устройствами, и обеспечивать типы обучения, невозможные при текущей архитектуре вычислений IoT.

Новые продукты, основанные на каких-либо открытиях команды Вианелло, вероятно, появятся только через много лет, и новые парадигмы приветствуются в быстро меняющемся мире IoT. С 46% организаций, ускоряющих внедрение 5G, множеством жизнеспособных стандартов периферийных вычислений и большим количеством событийно-управляемых архитектур, развертываемых на периферии, спрос на более быстрые, эффективные и микромасштабные решения IoT уже здесь.