Развитие микроэлектроники для удовлетворения растущих требований AI

Искусственный интеллект переопределяет технологии во всех отраслях, требуя микроэлектронных решений, обеспечивающих беспрецедентную производительность, энергоэффективность и компактные форм-факторы. От огромных центров обработки данных до автономных транспортных средств, роботов, мобильных устройств, носимой электроники и будущих приложений, еще не воображаемых — спрос на более быстрые, умные и «зеленые» аппаратные средства неуклонно растет.

В аппаратной сфере этот вызов требует инновационных парадигм в сенсорах, процессорах, памяти, межсоединениях и упаковке. Исследовательское сообщество Leti активно изучает эти передовые направления, позиционируя себя на стыке Edge AI и более широких отраслевых трендов. Реальные, готовые к массовому производству решения появятся только благодаря междисциплинарному сотрудничеству.

Мы можем предвосхитить рынок AI, отображая приложения по вычислительной мощности и потреблению энергии (см. Рисунок 1). Носимые устройства находятся на низком конце по потреблению и вычислениям, в то время как центры данных требуют максимальной производительности и энергобюджета. Умные приборы, дополненная реальность, робототехника и автономные автомобили занимают промежуточный спектр.

Рисунок 1. (Источник: Leti)

Edge AI — где основной анализ данных происходит в точке сбора — процветает в левой части спектра. Для его реализации нужны сенсоры и процессоры, способные адаптироваться на лету, как человеческие глаза и уши. Эти компоненты должны динамически регулировать такие характеристики, как динамический диапазон, для соответствия локальному интеллекту, и всё это в корпусе, помещающемся в часах или носимом устройстве.

Наоборот, крупномасштабные рабочие нагрузки AI раскрывают пределы традиционных вычислительных архитектур, особенно постоянные циклы чтения/записи памяти, потребляющие и время, и энергию.

Исходя из этих реалий, Leti приоритизирует исследования умных сенсоров и прорывных вычислительных подходов.

Одним из ключевых узких мест современных вычислений является перемещение данных: передача данных между памятью и процессором теперь занимает гораздо больше времени и энергии, чем сама компутация. Фактически, передача данных и доступ к памяти могут составлять до 90% энергобюджета системы — тревожная цифра для рабочих нагрузок AI, полагающихся на огромные наборы данных и простые операции. Сокращение перемещения данных поэтому критически важно.

Долголетняя работа Leti над 3D-схемами направлена на размещение памяти непосредственно на процессорах, сокращая физические связи и задержки. Мы также пионерируем новые архитектуры памяти, выполняющие сложение, вычитание и булеву логику непосредственно в ячейках SRAM. Этот подход вычислений в памяти (in-memory computing, IMC) устраняет необходимость выносить данные из памяти, экономя площадь и энергию. Ранние прототипы демонстрируют потенциал 100-кратного увеличения пропускной способности AI при сохранении той же частоты и энергопотребления, ожидаемого для 2020-х.