Blaize представляет Graph Streaming Processor (GSP) для ИИ-нагрузок

ТОКИО — Компания-ускоритель ИИ Blaize, ранее ThinCI, объявила, что ее полностью программируемый Graph Streaming Processor (GSP) войдет в серийное производство во Q2 2020 года.

Шестилетний стартап не раскрыл детальные спецификации, включая потребление энергии и бенчмарк-данные. Однако его тестовый чип — оттап-аут в середине 2018 года и запущенный в Linux-оболочке — использовался в 16 пилотных проектах по всему миру в течение последнего года, сказал CEO и сооснователь Динакар Мунгала.

Blaize характеризует GSP как выполняющий прямую обработку графов, управляющей и выполняющей графы задач на чипе и обеспечивающей параллелизм на уровне задач. По сути, GSP адресует ИИ-нагрузки, с которыми GPU, CPU и DSP боролись для эффективного обслуживания.

Отраслевые аналитики отметили, что это предложение эхом повторяет знакомые заявления других поставщиков ИИ-процессоров.

Кевин Круэлл, главный аналитик Tirias Research, сказал: «Я немного знаю о ThinCI, но никогда не получал архитектурный питч. Рад, что они сменили название».

Отсутствие технических деталей архитектуры GSP в слайд-деке вызвало фрустрацию и скептицизм среди аналитиков. Мунгала, однако, пообещал полный релиз информации в Q1 2020 года.

Попадание в список квалифицированных поставщиков

Хорошая новость для Blaize, по словам Мунгалы, — растущий список ранних пользователей уже использует их GSP. За последний год Blaize отгрузила настольный блок с GSP. Блок можно подключить к розетке и соединить через Ethernet. Data scientists, программные и аппаратные разработчики уже оценивают системные функции, обеспечиваемые GSP.

Blaize, с финансированием $87 млн, поддерживается ранними инвесторами и партнерами, включая Denso, Daimler и Magna. «Мы также получали выручку от автомобильного сегмента уже несколько лет», — сказал Мунгала.

С оттап-аученным чипом в руках многие стартапы сталкиваются с дилеммой «Что теперь делать?». Ричард Террил, вице-президент и стратегический бизнес-девелопмент в Blaize, сказал EE Times: «Мы уже прошли этот этап год назад».

Blaize сфокусировалась на расширении инфраструктуры, усилив инженерную команду, теперь насчитывающую 325 участников в Калифорнии, Индии и Великобритании. Компания переезжает в новые помещения и нанимает полевых инженеров-прикладников в Японии и EMEA. «Мы сохраняем импульс», — сказал Мунгала.

Для Blaize бизнес GSP больше не о конкуренции по спецификациям. Это о понимании того, как клиенты будут использовать GSP в реальных приложениях и измерении системного потребления энергии в этих контекстах.

Blaize занята финализацией логистики, получением автомобильной квалификации и обеспечением соответствия внутренних процессов и документации стандартам сертификации. «Мы уже завершили аудит и находимся в утвержденном и квалифицированном списке поставщиков одного автомобильного клиента», — сказал Мунгала. Эта веха критична для автопроизводителей и поставщиков первого уровня, предпочитающих партнеров с доказанной долговечностью.

Blaize наняла 30 инженеров в Великобритании (в Кингс Лэнгли и Лидсе) для фокуса на автомобильной разработке продукта. Команда, состоящая из высококвалифицированных людей, ранее работавших в MIPS над MIPS-базированными ASIC для Mobileye, приносит глубокую доменную экспертизу.

Графовые вычисления

Пока ИИ охватывает много типов нейросетей, «все нейросети основаны на графах», объяснил Мунгала. Теоретически это позволяет разработчикам строить множественные нейросети и целые рабочие процессы на одной архитектуре. Отсюда маркетинговый слоган GSP: «100% graph-native».

Blaize не единственная в пространстве графовых вычислений. Конкуренты вроде Graphcore, Mythic и недавно закрывшейся Wave Computing также обсуждали оптимизацию и компиляцию data-flow графов для ИИ-обработки.

Террил отметил: «Графовые вычисления имеют историю более 60 лет».

Blaize GSP отличается от других графовых data-flow процессоров тремя способами, по словам Мунгалы. Во-первых, GSP полностью программируем, способен обрабатывать широкий спектр задач. Во-вторых, он динамически перепрограммируем «за один такт». В-третьих, он интегрирует стриминг для минимизации задержки. Механизм стриминга данных уменьшает или устраняет невычислительное движение данных, давая значительный мультипликатор эффективности.

Граф-нативный дизайн архитектуры GSP минимизирует движение данных во внешнюю DRAM. Только начальный ввод и конечный вывод требуют внешней памяти; промежуточные данные остаются на чипе, драматически снижая пропускную способность памяти и потребление энергии.

Заявленные цели для систем Blaize — «наименьшая возможная задержка, снижение требований к памяти и энергопотребления на уровне чипа, платы и системы».

На вопрос, защитима ли граф-вычислительная конструкция Blaize патентами, Мунгала ответил: «Мы уверены в нашем патентном портфолио. У нас несколько выданных патентов и дополнительные заявки в ожидании, отражающие годы сфокусированных исследований».