Обоснование использования нейроморфных чипов для вычислений ИИ

Когда генеральный директор Apple Тим Кук представил iPhone X, он заявил, что он «проложит путь технологиям на следующее десятилетие». Пока еще рано говорить, но нейронный двигатель, используемый для распознавания лиц, был первым в своем роде. Сегодня глубокие нейронные сети стали реальностью, и нейроморфизм, по-видимому, является единственным практическим путем к постоянному прогрессу в области ИИ.

Столкнувшись с ограничениями полосы пропускания данных и постоянно растущими вычислительными требованиями, зондирование и вычисления должны заново изобретать себя, имитируя нейробиологические архитектуры, говорится в недавно опубликованном отчете Yole Développement (Лион, Франция).

В интервью EE Times Пьер Камбу, главный аналитик по визуализации в Yole, объяснил, что нейроморфное зондирование и вычисления могут решить большинство текущих проблем ИИ, открывая при этом новые перспективы приложений в следующие десятилетия. «Нейроморфная инженерия - это следующий шаг к биомимикрии и движущая сила прогресса в области ИИ».

Почему именно сейчас?

Семьдесят лет прошло с тех пор, как математик Алан Тьюринг задал вопрос «Могут ли машины думать?», И тридцать лет прошло с тех пор, как Карвер Мид, инженер-электрик из Калифорнийского технологического института, представил концепцию нейроморфной инженерии. Однако в следующее десятилетие исследователи не достигли практических успехов в создании машин с мозговой способностью к обучению и адаптации. Надежда возродилась, когда Технологический институт Джорджии представил свой программируемый нейронный массив в 2006 году, а исследователи Массачусетского технологического института представили компьютерный чип, который имитирует адаптацию нейронов мозга в ответ на новую информацию в 2011 году.

Поворотным моментом стала публикация статьи «Классификация ImageNet с глубокими сверточными нейронными сетями» группой ученых из Университета Торонто. Архитектура AlexNet, состоящая из 8-слойной сверточной нейронной сети, позволила классифицировать 1,2 миллиона изображений с высоким разрешением в конкурсе ImageNet в одну из 1000 категорий (например, кошки, собаки). «Только с развитием AlexNet подход глубокого обучения оказался более мощным и начал набирать обороты в области искусственного интеллекта».

Пьер Камбу

Большинство современных методов реализации глубокого обучения основаны на законе Мура, и «он отлично работает». Но по мере развития глубокого обучения будет возрастать спрос на микросхемы, которые могут выполнять сложные вычислительные задачи. Закон Мура в последнее время замедляется и заставил многих в отрасли, в том числе Yole Développement, поверить, что он не сможет обеспечить прогресс в области глубокого обучения. Камбу принадлежит к числу тех, кто считает, что глубокое обучение «потерпит неудачу», если оно будет и дальше реализовываться в том виде, в каком оно есть сегодня.

Чтобы объяснить свою точку зрения, Камбу назвал три основных препятствия. Первый - это экономика закона Мура. «Очень немногие игроки смогут играть, и в итоге мы получим одну или две фабрики в мире, выходящие за рамки 7 нм. Мы считаем, что для инноваций вредно, когда только Google может что-то делать ».

Во-вторых, загрузка данных увеличивается быстрее, чем закон Мура, а переполнение данных делает современные технологии памяти ограничивающим фактором. В-третьих, экспоненциальный рост требований к вычислительной мощности создал тепловую стену для каждого приложения. «С 7-нм чипами эффективность составляет примерно один терафлоп на ватт. Для питания Waymo нам, вероятно, потребуется один киловатт, а это значит, что нам нужна тысяча терафлопс », - сказал Камбу. Нынешняя технологическая парадигма не оправдывает ожиданий, и решением может быть применение глубокого обучения на нейроморфном оборудовании и использование преимуществ гораздо более высокой энергоэффективности.

Если шире взглянуть на текущую ситуацию, Камбу сказал, что пришло время для революционного подхода, который использует преимущества новых технологий памяти и улучшает полосу пропускания данных и энергоэффективность. Это нейроморфный подход. «История ИИ будет продолжать развиваться, и мы считаем, что следующий шаг будет в нейроморфном направлении».

В последние годы было много усилий по созданию нейроморфного оборудования, которое передает когнитивные способности, путем реализации нейронов в кремнии. Для Камбу это правильный путь, поскольку «нейроморфный подход ставит галочки во всех правильных клетках» и обеспечивает гораздо большую эффективность. «Аппаратное обеспечение сделало возможным нейронные сети и глубокое обучение, и мы считаем, что оно сделает следующий шаг в развитии нейроморфного ИИ. Тогда мы снова сможем мечтать об ИИ и мечтать о приложениях на основе ИИ ».

Предоставлено:Йоле

Нейроны и синапсы

Нейроморфное оборудование покидает исследовательскую лабораторию в связи с совпадением интересов и целей в областях восприятия, вычислений и памяти. Формируются совместные предприятия, подписываются стратегические союзы и запускаются десятилетние исследовательские инициативы, такие как проект Европейского Союза по человеческому мозгу.

Хотя до 2024 года не ожидается значительного бизнеса, масштаб возможностей может быть значительным в течение десятилетий после этого. По словам Йоле, если все технические вопросы будут решены в ближайшие несколько лет, рынок нейроморфных вычислений может вырасти с 69 миллионов долларов в 2024 году до 5 миллиардов долларов в 2029 году и 21,3 миллиарда долларов в 2034 году. Экосистема обширна и разнообразна с такими известными игроками, как Samsung, Intel и SK Hynix, а также такие стартапы, как Brainchip, Nepes, Vicarious и General Vision.

Нейроморфные чипы больше не теория, а факт. В 2017 году Intel представила Loihi, свой первый нейроморфный исследовательский чип, состоящий из 130 000 нейронов. В июле группа из Санта-Клары достигла нового рубежа, создав нейроморфную систему из 8 миллионов нейронов под кодовым названием Pohoiki Beach, включающую 64 исследовательских чипа Loihi. Точно так же компьютерный чип IBM TrueNorth, созданный на основе мозга, имеет 1 миллион нейронов и 256 миллионов синапсов, а нейроморфная система на кристалле Brainchip Akida имеет 1,2 миллиона нейронов и 10 миллиардов синапсов.

«Идет гонка за оборудованием, которое поднимет планку с точки зрения нейронов и синапсов. Синапсы, вероятно, более важны, чем нейроны », - сказал Камбу. «В Yole мы видим на два шага впереди себя. Во-первых, приложения, которые будут построены на текущем подходе, частично асинхронном, а частично от фон Неймана ». Хорошими примерами являются Акида из Brainchip и Лоихи из Intel. «Затем, вероятно, в течение следующих 10-15 лет, мы получим поверх него RRAM [резистивную память с произвольным доступом]. Это позволит создать больше синапсов ».

Усилия в области нейроморфных вычислений исходят от игроков в области памяти, таких как Micron, Western Digital и SK Hynix, но многие из них ищут более краткосрочные доходы и в конечном итоге могут не стать сильными участниками нейроморфных исследований. «Мы должны обратить внимание на мелких игроков, которые выбрали нейроморфную технологию в качестве основной», - сказал Камбу.

Стартапы с прорывной памятью, такие как Weebit, Robosensing, Knowm, Memry и Symetrix, объединяют технологию энергонезависимой памяти с конструкциями нейроморфных вычислительных микросхем. Они появились вместе с такими стартапами, которые занимаются чисто памятью, такими как Crossbar и Adesto, но их подход с мемристорами (резисторами памяти) часто воспринимается как более долгосрочный, чем усилия компаний, занимающихся чистыми вычислениями. «Многие игроки в память работают над RRAM и памятью с фазовым переходом, чтобы имитировать синапс», - сказал Камбу. Кроме того, «MRAM [магниторезистивная память с произвольным доступом] является частью возникающих воспоминаний, которые помогут нейроморфному подходу добиться успеха».

Предоставлено:Йоле

Помимо вычислений, появилась нейроморфная сенсорная экосистема, корни которой уходят корнями в изобретение кремниевого нейрона Мишей Маховальдом в Институте нейроинформатики и ETH Zurich в 1991 году. чем десять игроков по всему миру. Среди них Prophesee, Samsung, Insightness, Inivation и Celepixel предоставляют готовые к использованию продукты, такие как датчики изображения на основе событий и камеры. Подход на основе кадра, используемый в кинематографии, не позволяет уловить движение.

«Кино обманывает наш мозг, но мы не можем обмануть компьютер», - сказал Камбу. «Единственный правильный способ сделать это - дать ту же информацию, что и глаза. Камеры, основанные на событиях, очень хороши для понимания любого вида движения и понимания закономерностей в реальном времени ». В более широком смысле слуховые, визуализирующие и поведенческие сенсоры «влияют на каждый уровень того, что мы называем общим интеллектом».

На уровне корпусных полупроводников компания Yole ожидает, что нейроморфное зондирование вырастет с 43 миллионов долларов в 2024 году до 2 миллиардов долларов в 2029 году и 4,7 миллиарда долларов в 2034 году.

Автомобильная промышленность, но не только

По словам Камбу, автомобильная промышленность, вероятно, является наиболее очевидным рынком. Однако на начальном этапе рынки являются промышленными и мобильными, в основном для робототехники и восприятия в реальном времени.

В краткосрочной перспективе нейроморфное зондирование и вычисления будут использоваться для постоянного мониторинга промышленных машин. Он также будет играть важную роль в логистике, автоматизации пищевых продуктов и сельском хозяйстве. «В то время как для глубокого обучения требуются огромные наборы данных, нейроморфизм очень быстро учится всего на нескольких изображениях или нескольких словах и понимает время», - сказал Камбу.

В течение следующего десятилетия появление гибридных вычислительных чипов в оперативной памяти должно открыть автомобильный рынок, отчаянно ожидающий массового рынка технологий автономного вождения. «Мы живем в мире взаимодействий, и нейроморфизм будет очень силен в том, чтобы дать компьютерам понимание неструктурированной среды».