Взлетает количество микросхем ИИ, все больше внимания уделяется программному обеспечению ИИ

В то время как техническая индустрия продолжает рекламировать «ренессанс» искусственного интеллекта, количество стартапов в области микросхем ИИ начало снижаться, поскольку основные игроки создают собственные решения и уделяют больше внимания программному обеспечению ИИ.

В то время как технологическая индустрия продолжает рекламировать «возрождение» искусственного интеллекта, количество стартапов по созданию микросхем ИИ начало выходить на плато. Стартапы в области искусственного интеллекта обнаруживают, что входные барьеры для центров обработки данных, которые когда-то были многообещающим рынком, высоки - возможно, чрезмерно. Их проблема связана с гипермасштабирующими компаниями, такими как Google, Amazon и Facebook, которые теперь разрабатывают собственные процессоры и ускорители ИИ, соответствующие их конкретным потребностям.

Чтобы быть ясным, машинное обучение (ML) продолжает развиваться. Появляются новые вариации нейронных сетей. ИИ становится неотъемлемой частью любой электронной системы.

Лоран Молл, главный операционный директор Arteris, прогнозирует, что в будущем «у каждого есть своего рода ИИ в своих SoC». Это хорошая новость для Arteris, потому что ее бизнес состоит в том, чтобы помогать компаниям (большим и малым, новым и старым) интегрировать SoC, предоставляя IP-адреса и инструменты разработки IP-сети на кристалле (NoC).

Для стартапов с ИИ? Не так много. Конкуренция обостряется, что усложняет задачу взлома сегментов рынка, подходящих для конкретного проекта ИИ.

В следующем месяце EE Times представит наш «Кремний 100» (версия 2021 года) - ежегодный список новых стартапов в области электроники и полупроводников. Автор отчета Питер Кларк внимательно следит за созданием полупроводников в течение двух десятилетий. Он говорит нам, что количество запусков специализированных чипов, ориентированных на графические процессоры и ИИ, «не изменилось по сравнению с предыдущим годом». Он отмечает:«Мы чувствуем, что отрасль, возможно, достигла точки« пика ИИ »».

Короче говоря, салатные дни стартапов на базе ИИ-чипов могут закончиться.

Кевин Крюэлл, главный аналитик Tirias Research, ожидает новых приобретений стартапов в области микросхем искусственного интеллекта. «В конце концов, всплеск финансирования стартапов в области ИИ произошел после того, как Intel купила Nervana. Венчурные капиталисты и ангелы увидели возможную прибыльную стратегию выхода ». Он добавил, что «сегодня существует слишком много стартапов [AI], чем отрасль может поддерживать в долгосрочной перспективе. Я уверен, что появятся еще несколько с более экзотическими решениями, включая аналоговые или оптические. [Но] со временем функции AI / ML будут включены в более крупные SoC или в конструкции микросхем ».

Лоран Молл

На этом фоне EE Times недавно встретился с недавно назначенным главным операционным директором Артериса. Молл, который когда-то был техническим директором Arteris, проработал более семи лет в Qualcomm, последний раз в качестве вице-президента по разработке мобильных чипов.

Мы спросили Молла об изменениях в ландшафте ИИ-чипов и о том, куда идут стартапы.

Золотая лихорадка

Неудивительно, что Молл охарактеризовал стремление отрасли к искусственному интеллекту как «одну из самых больших золотых лихорадок», которые он когда-либо видел. Однако эти новоявленные 49-е больше не просто стартапы или небольшие компании. В число изыскателей входят компании, которые «производят кремний в течение длительного времени, и множество новых людей, которые не производили кремний [раньше]», - сказал Молл. Все «играют на одной арене», и все «пытаются расколоться».

Растущая база разработчиков и диверсификация приложений играют на руку Arteris, но рисуют совсем иную картину для стартапов по созданию микросхем ИИ. Они больше не конкурируют только с другими стартапами в области искусственного интеллекта с такими же яркими новыми идеями. Но теперь им тоже противостоят большие мальчики. Гипермасштабирующие машины и производители автомобилей активно участвуют в разработке искусственного интеллекта, чтобы использовать собственные чипы для своих систем.

Все еще в стадии расширения

Рынок микросхем ИИ «все еще находится в стадии расширения», и «все еще исследуют его», - заметил Артерис Молл. Тем не менее, он видит появление «небольшого порядка» в центрах обработки данных. Во многом это связано с тем, что гипермасштабирующие компании берут под контроль свою судьбу, разрабатывая собственные процессоры и ускорители искусственного интеллекта.

Различие между гипермасштабирующими устройствами и другими разработчиками микросхем искусственного интеллекта сводится к одному фактору. «У них есть наборы данных», - сказал Молл. Гипермасштабирующие устройства не обмениваются наборами данных с другими, но они разрабатывают пакеты проприетарного программного обеспечения. «И они чувствуют, что могут создавать кристаллы, гораздо более оптимизированные для их собственного доступа к данным».

Между тем, внешние поставщики - небольшие стартапы в области ИИ-чипов - «разрабатывают новые методы структурирования SoC, новые способы использования SRAM и DRAM, объединения в стек с использованием оптики», - сказал Молл. «Есть много способов создать секретный соус, позволяющий им делать ИИ намного лучше, чем то, что могут сделать стандартные чипы ИИ сегодня. Маленькие ребята меняют правила игры, они очень умны, когда делают что-то не так, как другие ».

Напротив, микросхемы искусственного интеллекта, преследуемые гипермасштабирующими машинами, не столь инновационны. Молл заметил, что гипермасштабирующие средства могут позволить себе использовать более традиционный подход. Хороший пример - TPU от Google. «Если вы посмотрите на это, архитектура великолепна, но она не революционна во многих отношениях». Несмотря на это, «он очень хорошо работает для того, что хочет делать Google. Значит, это служит их цели ».

Если чипы небольших ИИ-стартапов настолько новы, не должны ли они прокладывать себе путь в центры обработки данных гипермасштабируемых компаний?

«Нет, нет, нет, - сказал Молл. «Маловероятно, что кто-то из мелких ребят расширится на рынке центров обработки данных… или гипермасштабируемые компании купят их продукты». Однако он отметил, что «гипермасштабируемые компании обязательно купят некоторые из этих стартапов, как только увидят, что их технологии полезны и применимы для того, что они хотят делать».

Молл описал гипермасштабируемый ход мыслей так:«Я знаю, каков мой набор данных. Я знаю, как создать более центрированную архитектуру. Если у кого-то есть отличная идея, которая хорошо работает, давайте возьмем эту группу людей и IP, и давайте улучшим наш собственный продукт ».

Крюэлл из Tirias Research согласился. «Вы должны сделать что-то впечатляющее, чтобы гиперкалары решили использовать ваш чип машинного обучения». По словам Крюэлл, компания Cerebras, например, подтолкнула конверт своим чипом размером с пластину. «Nvidia по-прежнему является платформой по умолчанию для разработки ИИ из-за повсеместного распространения программного обеспечения и масштабируемости».

А как насчет края?

Для разработчиков микросхем ИИ «край - это совсем другая история» по сравнению с центрами обработки данных, отмечает Молл. Конечный рынок для кромки универсален, с желанием получить гораздо больший спектр решений. «Многие люди все еще думают, где применить ИИ и как его реализовать», - сказал Молл.

щелкните, чтобы увидеть полноразмерное изображение

19 процентов всего доступного рынка полупроводников будет связано с AI / ML в 2025 году. (Источник:Bernstein; Cisco; Gartner; IC Insights; IHS Markit; Machina Research; McKinsey Analysis - составлено Arteris)

Крюэлл из Tirias Research согласен. «Край по-прежнему остается относительно неизведанной областью. Еще есть возможности добавить машинное обучение к датчикам и периферийным устройствам. Многообещают аналоговые устройства с очень низким энергопотреблением и устройства в памяти, а также ускорители в микроконтроллерах и процессорах приложений. Я вижу большой потенциал для вывода INT4 и INT2 в пограничных процессорах - хорошая точность при гораздо меньших требованиях к мощности и памяти ».

Несмотря на то, что разнообразные приложения кажутся захватывающими, они могут оказаться вовлеченными в цикл ажиотажа Edge AI.

Edge AI стал модным словом не потому, что край - это новый рынок, и не обозначает какую-либо конкретную категорию продукта. Скорее, отсутствие определения превратило «край» в универсальный инструмент, с которым стартапы могут ассоциировать свои продукты.

Среди широких областей применения Молл видит две расходящиеся тенденции. Один из них - «ИИ внутри чипа, который делает что-то еще», - отметил он. «Вот где произошел взрыв».

На этом рынке встраиваемых систем «действительно имеют значение такие вещи, как форм-факторы, мощность и тепло», - добавил он.

Другая тенденция на другом конце спектра - «огромные чипы, которые просто делают ИИ», - отметил Молл. Однако приложения для крупных микросхем на периферии все еще развиваются.

Лучший пример «ИИ внутри чипа» - это, вероятно, прикладные процессоры для смартфонов, которые Молл хорошо знает. Ускорители искусственного интеллекта сыграли ключевую роль в распознавании голоса и обработке зрения. Сегодня ИИ стал важной составляющей привлекательности продаж сотовых телефонов. Одним из результатов является то, что «у операторов мобильной связи [таких как Qualcomm] есть преимущества», - признал Молл.

AI в автомобилестроении

Молл видит, что ИИ в транспортных средствах - это совсем другая история.

Он отметил, что будет целый спектр решений, от чипов компьютерного зрения с тяжелым ИИ до большого ИИ-чипа, который выполняет всю тяжелую обработку. По мере того как автомобили переходят от ADAS к автономности, Молл ожидает, что более крупные процессоры ИИ будут играть решающую роль на рынке автомобилей более высокого класса.

В то время как представители автомобильной отрасли, часто вооруженные собственными небольшими микросхемами искусственного интеллекта, имеют преимущества в ADAS, на автономном рынке есть большие возможности для стартапов микросхем искусственного интеллекта с довольно большими микросхемами искусственного интеллекта.

Но вот в чем поворот.

Производители автомобилей, имитирующие гипермасштабируемые модели, также идут вертикально. Tesla уже разработала свой собственный чип, получивший название «полностью автономный» компьютер. Несколько недель назад генеральный директор Volkswagen Герберт Дисс сообщил немецкой газете, что компания планирует спроектировать и разработать собственные высокопроизводительные чипы для автономных транспортных средств вместе с необходимым программным обеспечением.

Молл подтвердил, что автопроизводители «все очень внимательно следят за этим». Несмотря на то, что Arteris является IP-компанией, «нам звонят производители автомобилей, потому что они хотят понять весь стек, и они хотят контролировать» «большую кучу кремния», которая вот-вот появится и изменит архитектуру автомобиля. .

Стартапы по производству микросхем искусственного интеллекта, такие как Recogni, Blaize и Mythic, называют автомобилестроение периферийным сегментом рынка искусственного интеллекта, на который они нацелены. Как автопроизводители в конечном итоге будут внедрять такие чипы в автомобили, еще неизвестно.

Крюэлл подчеркнул:«Автомобильные платформы все еще развиваются. Распределенная функциональность имеет преимущества модульности и снижения риска, но ее создание и обслуживание дороже, чем централизованный комплекс обработки ».

Он добавил:«Другая проблема - это данные. Датчики будут отправлять много данных, наличие интеллекта на границе сокращает передачу данных, но за счет увеличения задержки датчика и большей распределенной мощности в шасси. Некоторый баланс облегченной обработки кромок на датчике может снизить нагрузку на центральный процессор без увеличения задержки или потребовать слишком большого количества распределенной мощности ».

Битва за ИИ переходит от чипов к программному обеспечению

Крюэлл заметил:«Я вижу, что ИИ переходит от микросхем к программному обеспечению. Для развертывания функциональности машинного обучения требуется хорошее программное обеспечение. А чтобы сделать ML доступным для большего числа разработчиков встраиваемых систем и программистов, необходимо сделать ML low-code. Это также требует автоматизации создания пользовательских моделей для конкретного приложения ».

Молл пришел к аналогичному выводу. На вопрос, почему он решил вернуться в Артерис из Qualcomm, он назвал два момента.

Во-первых, Arteris занимал нишу - «узкое место между поставщиками IP». Но эта ниша теперь стала «одним из ключевых пространств», где разработчики микросхем ИИ ищут помощи в «сборке очень больших и сложных SoC» путем построения множества сетей на чипах. Именно здесь может помочь сеть на кристалле (NOC) от Arteris для комплексного решения проблем.

Во-вторых, в прошлом году Arteris IP приобрела Magillem. Молл рассматривает «программный уровень», предлагаемый Magillem, как еще один ключ к созданию очень большой и сложной SoC. Я отвечал в Qualcomm за команду, поставляющую чипы высшего уровня, «Я пришел к пониманию ценности того, что предлагает Arteris как пользователь, а не как маркетолог».

>> Эта статья изначально была опубликована на нашем дочернем сайте EE Times.