Почему Edge AI - это несложная задача

По прогнозам Deloitte, в 2020 году будет продано более 750 миллионов периферийных микросхем искусственного интеллекта - полных микросхем или частей микросхем, которые выполняют или ускоряют задачи машинного обучения на устройстве, а не в удаленном центре обработки данных - с выручкой в ​​2,6 млрд долларов США. Кроме того, рынок периферийных микросхем ИИ будет расти намного быстрее, чем рынок микросхем в целом. К 2024 году мы ожидаем, что единичные продажи периферийных ИИ-чипов превысят 1,5 миллиарда, возможно, намного. Это представляет собой совокупный годовой рост продаж единичных изделий как минимум на 20%, что более чем вдвое превышает долгосрочный прогноз в 9% CAGR для всей полупроводниковой отрасли.

Рис. 1. Места, в которых могут быть внедрены аналитические данные (Изображение:Deloitte Insights)

Эти периферийные микросхемы искусственного интеллекта, вероятно, найдут свое применение во все большем числе потребительских устройств, таких как смартфоны, планшеты, интеллектуальные колонки и носимые устройства высокого класса. Они также будут использоваться на нескольких корпоративных рынках:роботы, камеры, датчики и другие устройства для Интернета вещей. Потребительский рынок периферийных микросхем ИИ намного больше, чем корпоративный рынок, но он, вероятно, будет расти медленнее, с ожидаемым среднегодовым темпом роста 18% в период с 2020 по 2024 год. Рынок периферийных ИИ-чипов на корпоративном уровне растет намного быстрее, с прогнозируемыми прогнозами. CAGR составляет 50% за тот же период времени.

Рис. 2. Рынок периферийных микросхем ИИ (Изображение:Deloitte Insights)

Тем не менее, в этом году рынок потребительских устройств, вероятно, будет составлять более 90% рынка периферийных микросхем ИИ, как с точки зрения количества проданных устройств, так и их долларовой стоимости. Подавляющее большинство этих периферийных ИИ-чипов пойдет на высокопроизводительные смартфоны, на которые приходится более 70% всех потребительских ИИ-чипов, используемых в настоящее время. В самом деле, не только в 2020 году, но и в ближайшие несколько лет рост ИИ-чипов будет происходить в основном за счет смартфонов. Мы полагаем, что более трети из 1,56 миллиарда единиц рынка смартфонов в этом году могут содержать периферийные микросхемы искусственного интеллекта.

Из-за чрезвычайно интенсивных требований к процессору почти все вычисления AI выполнялись удаленно в центрах обработки данных, на основных корпоративных устройствах или на периферийных процессорах связи, а не локально на устройствах. Чипы Edge AI все меняют. Они физически меньше, относительно недороги, потребляют гораздо меньше энергии и выделяют гораздо меньше тепла, что позволяет интегрировать их в портативные устройства, а также в устройства, не относящиеся к потребителю, такие как роботы. Позволяя этим устройствам выполнять ресурсоемкие вычисления искусственного интеллекта локально, периферийные микросхемы искусственного интеллекта сокращают или устраняют необходимость отправки больших объемов данных в удаленное место, тем самым обеспечивая преимущества в удобстве использования, скорости, безопасности и конфиденциальности данных.

Сохранение обработки на устройстве лучше с точки зрения конфиденциальности и безопасности; личная информация, которая никогда не покидает телефон, не может быть перехвачена или использована не по назначению. А когда в телефоне установлен крайний ИИ-чип, он может делать все это, даже если он не подключен к сети.

Конечно, не все вычисления AI должны выполняться локально. Для некоторых приложений - например, когда для обработки периферийного ИИ-чипа устройства просто слишком много данных, - отправка данных для обработки удаленным ИИ-массивом может быть адекватной или даже предпочтительной. Фактически, большую часть времени ИИ будет выполняться гибридным образом:часть на устройстве, а часть в облаке. Предпочтительный микс в любой конкретной ситуации будет варьироваться в зависимости от того, какой именно вид обработки искусственного интеллекта необходимо выполнить.

Экономика передового ИИ в смартфонах

Смартфоны - не единственные устройства, в которых используются периферийные микросхемы искусственного интеллекта; другие категории устройств - планшеты, носимые устройства, умные колонки - также содержат их. В краткосрочной перспективе эти устройства, не являющиеся смартфонами, вероятно, будут иметь гораздо меньшее влияние на продажи периферийных ИИ-чипов, чем смартфоны, либо потому, что рынок не растет (как для планшетов), либо потому, что он слишком мал, чтобы иметь существенное значение ( например, ожидается, что в 2020 году будет продано всего 125 миллионов единиц умных динамиков и носимых устройств). Однако многие носимые устройства и умные динамики зависят от периферийных микросхем искусственного интеллекта, поэтому их распространение уже велико.

В настоящее время только самые дорогие смартфоны - те, которые находятся в верхней трети ценового распределения - могут использовать периферийные микросхемы AI. Но установка ИИ-чипа в смартфон не обязательно должна быть чрезмерно высокой для потребителя.

Можно получить довольно точную оценку содержимого ИИ-чипа на краю смартфона. На сегодняшний день изображения процессоров телефонов Samsung, Apple и Huawei показывают голый кремниевый кристалл со всеми видимыми функциями, что позволяет определить, какие части микросхем используются для каких функций. Снимок чипа Exynos 9820 от Samsung показывает, что около 5% общей площади чипа отведено под процессоры AI. Стоимость процессора приложений SoC в целом оценивается в 70,50 долларов США, что является вторым по стоимости компонентом телефона (после дисплея) и составляет около 17% от общей стоимости материалов устройства. Если предположить, что часть ИИ стоит столько же, сколько и остальные компоненты в расчете на площадь кристалла, периферийный нейронный
процессор (NPU) Exynos составляет примерно 5% от общей стоимости чипа. Это составляет примерно 3,50 доллара США каждый.

Рис. 3. Снимок чипа Exynos 9820 от Samsung показывает, что около 5% общей площади чипа отведено под процессоры AI. (Изображение:ChipRebel; Аннотация:AnandTech)

Точно так же чип Apple A12 Bionic выделяет около 7% площади кристалла для машинного обучения. Приблизительно 72 доллара США за весь процессор, этот процент предполагает стоимость периферийного ИИ в 5,10 доллара США. Чип Huawei Kirin 970, оцененный производителем в 52,50 доллара США, отводит 2,1% кристалла NPU, что предполагает его стоимость в 1,10 доллара США. (Площадь кристалла - не единственный способ измерить, какой процент от общей стоимости чипа идет на ИИ. По данным Huawei, NPU Kirin 970 имеет 150 миллионов транзисторов, что составляет 2,7% от общей суммы в 5,5 миллиарда транзисторов. предлагаем немного более высокую стоимость NPU - 1,42 доллара США).

Рис. 4. Чип Apple A12 Bionic выделяет около 7% площади кристалла для машинного обучения. (Изображение:TechInsights / AnandTech)

Несмотря на то, что указанный диапазон стоимости широк, разумно предположить, что NPU стоят в среднем 3,50 доллара США за чип. Если умножить на полмиллиарда смартфонов (не говоря уже о планшетах, динамиках и носимых устройствах), то это означает большой рынок, несмотря на низкую цену за чип. При средней стоимости в 3,50 доллара США для производителя и вероятном минимуме в 1 доллар США добавление выделенного периферийного ИИ NPU к микросхемам обработки смартфонов становится легкой задачей. Если исходить из обычной наценки, добавление 1 доллара к стоимости производства для конечного потребителя дает только 2 доллара США. Это означает, что NPU и сопутствующие им преимущества - улучшенная камера, автономная голосовая поддержка и т. Д. - можно поместить даже в смартфон за 250 долларов США, при этом цена будет увеличена менее чем на 1%.

Источники ИИ-чипов:собственные или сторонние?

Компании, производящие смартфоны и другие устройства, различаются в подходах к получению периферийных микросхем искусственного интеллекта, при этом решение зависит от таких факторов, как модель телефона и, в некоторых случаях, географическое положение. Некоторые покупают микросхемы процессора / модема для приложений у сторонних поставщиков, таких как Qualcomm и MediaTek, которые в совокупности захватили примерно 60% рынка SoC для смартфонов в 2018 году.

И Qualcomm, и MediaTek предлагают ряд SoC по разным ценам; хотя не все из них включают в себя периферийный ИИ-чип, более дорогие предложения (включая Qualcomm Snapdragon 845 и 855 и Helio P60 от MediaTek) обычно включают. С другой стороны, Apple вообще не использует внешние микросхемы AP:она разрабатывает и использует свои собственные процессоры SoC, такие как микросхемы A11, A12 и A13 Bionic, все из которых имеют периферийный ИИ.

Другие производители устройств, такие как Samsung и Huawei, используют гибридную стратегию, покупая некоторые SoC у поставщиков микросхем на коммерческом рынке и используя свои собственные чипы (например, Exynos 9820 от Samsung и Kirin 970/980 от Huawei) для остального.

>> Продолжить чтение второй страницы статья, изначально опубликованная на нашем дочернем сайте EE Times Europe.