Imec и GlobalFoundries показывают processor‑in‑memory чип 2900 TOPS/Вт для ультра‑эффективного AI

Революционные аналоговые вычисления

Imec и GlobalFoundries продемонстрировали processor‑in‑memory чип, способный достичь энергоэффективности до 2900 TOPS/Вт — примерно на два порядка выше современных коммерческих решений. Дизайн использует аналоговые вычисления внутри SRAM, построенные на 22‑нм fully‑depleted silicon‑on‑insulator (FD‑SOI) процессе GlobalFoundries.

Аналоговый in‑memory compute (AiMC) Imec будет доступен клиентам GlobalFoundries как фича на платформе 22FDX.

Тестовый чип AnIA Imec, смонтированный на PCB для измерений, достигает 2900 TOPS/Вт (Источник: Imec)

Аналоговые вычисления объяснены

Аналоговые вычисления, или processor‑in‑memory — проверенная техника, уже принятая коммерческими AI ускорителями Mythic, Syntiant, Gyrfalcon и др. Она устраняет дорогое шаттлинг данных между памятью и процессором, выполняя multiply‑accumulate операции прямо внутри массива памяти.

Каждая memristor ячейка программируется на аналоговую проводимость, пропорциональную весу нейросети. Напряжение, пропорциональное входной активации, драйвит ячейку, и результирующий ток представляет произведение активации и веса. Сумма токов на каждой bit‑line дает матрично‑векторное умножение, требуемое нейросетями, которое затем считывается через АЦП.

«На практике мы можем использовать ReRAM, MRAM, Flash или DRAM — наша цель идентифицировать лучший вариант для каждого применения и доточить технологию», — сказал Дидрик Веркест, директор программы ML в Imec.

Тестовый чип AnIA Imec

Построен на GlobalFoundries 22 нм FD‑SOI, AnIA имеет 512к‑ячеечный SRAM массив, 1024 ЦАП и 512 АЦП на 4 мм². Может выполнять ~500 000 вычислений за цикл с 6‑битными активациями (плюс знак), тернарными весами и 6‑битными выходами.

«Мы можем доставлять результаты матрично‑векторного умножения на множественных напряжениях питания — 0.8 В и 0.6 В — без ущерба точности. Низкие напряжения драматично снижают потребление, критичное для energy‑constrained инференса на edge», — объяснил Иоаннис Папистас из ML группы Imec.

На задаче CIFAR‑10 object‑recognition точность AnIA упала всего на 1 процентный пункт против аналогично квантованного бейзлайна. На 0.8 В чип достиг 1050–1500 TOPS/Вт для 23.5 TOPS; на 0.6 В — 5.8 TOPS и 1800–2900 TOPS/Вт.

Сравнение энергоэффективности: AnIA Imec vs. другие AI ускорители (кликните для увеличения) (Источник: Imec)

От лаборатории к массовому производству

«Эта инновация предназначена для массового внедрения», — сказал Хирен Маджудар, VP и GM вычислительного бизнеса GlobalFoundries. «Мы видим партнеров уже в пост‑производственной фазе с валидированным кремнием. Ожидаем analog‑compute кремний к производству к концу года или начале следующего, и на масс‑маркете не позднее 2022 — потенциально раньше».

GlobalFoundries интегрирует AiMC технологию Imec в платформу 22FDX, позволяя ультра‑низкоэнергетические AI ускорители. FD‑SOI процесс поддерживает работу до 0.5 В с 1 пА/мкм standby утечкой. 22FDX+AiMC фича сейчас в разработке на 300‑мм линии GlobalFoundries в Fab 1 Дрезден, Германия.

ML программа Imec будет толкать к 10 000 TOPS/Вт (10 TOPS под 100 мВт) для always‑on смарт сенсоров и носимых. Будущая работа сфокусирована на уменьшении compute ячеек и исследовании emerging memory устройств как next‑gen платформ.

>> Эта статья изначально опубликована на нашем партнерском сайте EE Times.