Архитектура микросхемы ИИ нацелена на обработку графов

TOKYO - Блейз, разработчик процессоров искусственного интеллекта, ранее известный как ThinCI (произносится как «Think-Eye»), сообщил, что его полностью программируемый процессор Graph Streaming Processor (GSP) будет запущен в массовое производство во втором квартале 2020 года.

В то время как стартап шестилетней давности не раскрывает технических характеристик своего продукта, таких как уровень мощности и результаты тестов, его тестовый чип, записанный в середине 2018 года и размещенный в корпусе на базе Linux, участвовал в 16 пилотных программах по всему миру. в течение года, заявил соучредитель и генеральный директор Блэза Динакар Мунагала.

Блейз описывает свой GSP как способный выполнять «прямую обработку графа, встроенное управление графом задач и их выполнение, а также параллелизм задач». Короче говоря, Блейз разработал GSP для удовлетворения потребностей обработки AI, которые ранее не удовлетворялись графическим процессором, процессором или DSP.

Многие отраслевые аналитики, занимающиеся процессорами искусственного интеллекта, уже слышали об этом раньше.

Кевин Крюэлл, главный аналитик Tirias Research, сказал:«Я немного знаю о ThinCI, но никогда не разбирался в архитектуре. Я рад, что они изменили название ».

Нехватка технических деталей архитектуры GSP в слайд-презентации вызывает разочарование и скептицизм в сообществе технических аналитиков. Однако Мунагала обещает выпустить информацию в первом квартале 2020 года.

Блок-схема высокого уровня архитектуры GSP

Архитектура GSP состоит из массива процессоров потоковой передачи графов, выделенных математических процессоров, аппаратного управления и различных типов кэша данных. Компания утверждает, что GSP может предложить:«Настоящий параллелизм на уровне задач, минимальное использование внешней памяти, аппаратное планирование графов в глубину, полностью программируемую архитектуру». Нажмите здесь, чтобы увеличить изображение (Источник:Blaize)

Попадание в список квалифицированных поставщиков

Хорошая новость для Блейза в сознании Мунагалы - это множество первых клиентов, уже использующих его GSP. Уже год Blaize поставляет настольные устройства с GSP. Его можно просто вставить в розетку и подключить к сети Ethernet. По словам Мунагала, специалисты по обработке данных, разработчики программного и аппаратного обеспечения уже оценивают функции системного уровня, поддерживаемые GSP.

Blaize, получивший 87 миллионов долларов финансирования, пользуется поддержкой первых инвесторов и партнеров, включая Denso, японскую компанию первого уровня, Daimler и Magna. «Несколько лет назад мы также получали доход от автомобильного сегмента, - сказал Мунагала.

С заклеенным чипом в руках многие стартапы сталкиваются с вопросом:«Что нам теперь делать?» дилемма. Ричард Террилл, вице-президент по стратегическому развитию бизнеса Blaize, сказал EE Times:«Мы уже прошли этот этап год назад».

Blaize сосредоточился на создании своей инфраструктуры, увеличив команду инженеров (сейчас она насчитывает 325 человек), которая простирается до Калифорнии, Индии и Великобритании. Она переезжает на новые объекты и начинает нанимать инженеров по применению на местах в Японии и странах Европы, Ближнего Востока и Африки. . «Мы продолжаем набирать обороты», - сказал Мунагала.

Для Blaize бизнес GSP больше не сводится к конкуренции с конкурирующими стартапами по спецификациям в презентациях Power Point. Речь идет о выяснении того, как клиенты будут использовать GSP для каких приложений - и сколько энергии он потребляет «на системном уровне» для конкретных целей.

Blaize была занята налаживанием своей логистики, получением автомобильной квалификации своей продукции и проверкой сертификации внутренних процессов и документации. «Мы уже прошли аудит, и мы находимся в списке утвержденных и квалифицированных поставщиков», - сказал Мунагала. Это был столь необходимый процесс, который соблюдали автопроизводители и рядовые производители, которые предпочитали избегать стартапов, которые не могли длиться достаточно долго, чтобы выпускать продукцию.

Блэйз нанял около 30 инженеров в Великобритании (в Кингс-Лэнгли и Лидсе), которым было поручено работать над разработкой автомобильной продукции. Это сплоченная команда инженеров, освободившихся, когда Imagination отказалась от MIPS. «Это группа высококвалифицированных специалистов, которые вместе работали в MIPS, чтобы получить ASIC на базе MIPS, пригодные для использования в автомобилях Mobileye», - пояснил Мунагала.

Вычисление графиков

Хотя ИИ входит в состав нейронных сетей разных типов, «все нейронные сети основаны на графах», - пояснил Мунагала. Теоретически это позволяет разработчикам использовать встроенную в граф структуру для построения нескольких нейронных сетей и целых рабочих процессов на единой архитектуре. Следовательно, новый маркетинговый ход компании для своего GSP - «100% графическая адаптация».

Однако Блейз не совсем единорог во вселенной вычислений графов. Graphcore, Mythic и теперь уже терпящие неудачу Wave Computing говорили об «оптимизации и компиляции графиков потоков данных» при обработке ИИ.

Террилл сказал:«Конечно, история графических вычислений насчитывает более 60 лет».

По словам Мунагала, Blaize GSP отличается от других графических процессоров обработки потоков данных в трех областях. Во-первых, «наш GSP полностью программируется», он может выполнять «широкий спектр задач».

Во-вторых, он «динамически перепрограммируется… за один такт».

В-третьих, «Мы предлагаем интеграцию потоковой передачи», что позволяет минимизировать задержку. Он пояснил, что значительный множитель эффективности достигается с помощью «механизма потоковой передачи данных», при котором перемещение данных, не связанных с вычислениями, сводится к минимуму или устраняется.

Обработка последовательного выполнения

Щелкните здесь, чтобы увеличить изображение (Источник:Blaize)

Графическая природа архитектуры GSP может минимизировать перемещение данных туда и обратно во внешнюю DRAM. Внешне необходимы только первый ввод и окончательный вывод, а все остальное в середине - это просто временные промежуточные данные. Это приводит к значительному снижению пропускной способности памяти и энергопотребления.

Щелкните здесь, чтобы увеличить изображение (Источник:Blaize)

Заявленные цели для систем Blaize - «минимально возможная задержка, снижение требований к памяти и энергопотребления на уровне микросхемы, платы и системы».

На вопрос, будет ли проект Блейза защищенным патентами, Мунгала сказал:«Мы уверены в нашем портфеле патентов. У нас есть несколько патентов - одни уже выданы, другие поданы, но мы делаем это уже несколько лет ».