Edge AI чипы: двигатель будущего он-девайс интеллекта

В 2020 г. Deloitte прогнозировала продажу более 750 млн edge AI чипов — полных или частичных процессоров, выполняющих или ускоряющих ML прямо на устройствах — с выручкой $2.6 млрд. Сегмент edge-AI чипов обгонит шире полупроводниковый рынок: к 2024 г. объём продаж превысит 1.5 млрд штук, CAGR ≥20% — более удвоенного долгосрочного 9% CAGR отрасли в целом.

Edge-AI чипы появятся в расширяющемся спектре потребительского железа — флагманские смартфоны, планшеты, умные колонки, носимые устройства — и в enterprise-устройствах: робототехнике, камерах безопасности, промышленных сенсорах. Потребительский сегмент доминирует, но его темп роста скромен — 18% CAGR 2020-2024. Enterprise-рынок же ожидает скачок 50% CAGR за тот же период.

Даже в 2024 г. потребительский рынок будет составлять >90% продаж edge-AI чипов и по объёму, и по выручке. Флагманские смартфоны дадут >70% всех потребительских edge-AI чипов в использовании, следующие годы будут двигаться преимущественно за счёт смартфонов. Примерно треть из 1.56 млрд проданных смартфонов уже может включать edge-AI возможности.

Парадигма смены: от дата-центров к локальной обработке

Традиционно AI-нагрузки обрабатывались в дата-центрах, enterprise-ядрах или телекомовом edge из-за тяжёлых вычислительных требований. Edge-AI чипы меняют парадигму: они компактны, стоимостно-эффективны, энергоэффективны, минимально греются, делая локальную обработку на ручных и промышленных устройствах viable. Сдвиг снижает — или устраняет — необходимость передавать большие объёмы данных на удалённые серверы, давая быстрый отклик и более сильные гарантии приватности.

Локальная обработка защищает чувствительные данные: информация, никогда не покидающая устройство, не может быть перехвачена или злоупотреблена. Более того, edge-AI чип в телефоне может выполнять продвинутые задачи даже без сетевого подключения.

Тем не менее, не каждая AI-задача лучше решается локально. Для нагрузок, превышающих мощности устройства, оффлоадинг в облако или edge-кластеры остаётся уместным. На практике большинство приложений используют гибридную модель — частично on-device, частично в облаке — с оптимальным разделением, определяемым конкретным use-case.

Экономика edge AI в смартфонах

Помимо смартфонов, планшеты, носимые и умные колонки тоже интегрируют edge-AI чипы, но их рыночное влияние пока ограничено. Продажи планшетов относительно статичны, умные колонки и носимые вместе прогнозируются в 125 млн единиц в 2020 г. Несмотря на малый размер, проникновение edge-AI чипов в этих категориях высоко.

На данный момент edge-AI чипы преимущественно в премиальных смартфонах — верхней трети ценового спектра. Однако добавление AI-ускорителя не обязательно раздувает потребительские цены.

Анализируя die shots Samsung, Apple, Huawei, можно оценить стоимость вклада AI-ядра. Samsung Exynos 9820 выделяет ~5% площади дай под AI-обработку. При цене всего SoC $70.50 AI-часть ~5% или $3.50 за чип.

Apple A12 Bionic посвящает ~7% площади ML. При стоимости процессора $72 — оцениваемые $5.10 за AI-ядро. Huawei Kirin 970 ($52.50) выделяет 2.1% под NPU, ~$1.10 (Huawei указывает 150 млн из 5.5 млрд транзисторов для NPU, 2.7% — ~$1.42).

Хотя оценки варьируются, среднее $3.50 за NPU разумно. Применяя к полумиллиарду смартфонов — и больше с учётом планшетов, колонок, носимых — общий объём рынка существенен. При производственной стоимости $1-3 за чип добавление edge-AI NPU даёт всего $1-2 рост потребительской цены, незначительный <1% для $250 телефона.

Источники AI чипов: In-house или сторонние?

Производители устройств выбирают разные пути получения edge-AI чипов, направляемые тиром продукта и иногда географией. Многие закупают AP/модем SoC у сторонних вендоров вроде Qualcomm и MediaTek, вместе захвативших ~60% рынка смартфонных SoC в 2018 г. Не все их предложения включают AI-ядро, но хай-энд модели — Snapdragon 845/855, Helio P60 — включают.

Apple, напротив, проектирует и производит свои SoC — A11, A12, A13 Bionic — каждый с edge-AI функциональностью. Samsung и Huawei используют гибридные стратегии: закупают некоторые SoC у мerchant-рынка, но также используют свои чипы (Exynos 9820, Kirin 970/980) для других моделей.

> Продолжение на второй странице статьи, изначально опубликованной на нашем партнёрском сайте EE Times Europe.