ИИ на периферии по-прежнему в основном потребительский, а не корпоративный, рыночный

Опыт, основанный на данных, богат, захватывает и немедленный. Но они также нетерпимы к задержкам и хранят данные.

Подумайте о доставке пиццы с помощью дронов, видеокамерах, которые могут записывать дорожно-транспортные происшествия на перекрестках, грузовых автомобилях, которые могут определить потенциальный сбой системы.

Для таких быстрых действий требуется много данных - быстро. Таким образом, они не могут выдерживать задержки при передаче данных в облако и из него. Это туда-сюда занимает слишком много времени. Вместо этого многие из этих процессов с большим объемом данных должны оставаться локализованными и обрабатываться на периферии, на аппаратном устройстве или рядом с ним.

«Автономное транспортное средство не может ждать даже десятой доли секунды, чтобы активировать экстренное торможение, когда алгоритм ИИ [искусственный интеллект] предсказывает неминуемое столкновение», - написал профессор Северо-Западного университета Моханбир Сони в статье «Почему Apple и Microsoft переходят на край». «В таких ситуациях ИИ должен располагаться на периферии, где решения можно принимать быстрее, не полагаясь на подключение к сети и не перемещая огромные объемы данных туда и обратно по сети».

«Граничные процессоры AI позволяют вам выполнять обработку на самом [устройстве] или передавать данные на сервер в задней комнате, вместо того, чтобы обработка выполнялась в облаке», - сказал Адитья Каул, директор по исследованиям в исследовательской компании Omdia. .

Искусственный интеллект на грани:предприятия или потребители

Способность микросхем ИИ выполнять такие задачи, как логический вывод машинного обучения, за последние годы значительно расширилась. Рассмотрим графический процессор (GPU), который обеспечивает производительность более 10 терафлопс, что эквивалентно 10 триллионам вычислений с плавающей запятой в секунду. В современных смартфонах есть графические процессоры, которые могут обрабатывать миллиарды операций с плавающей запятой в секунду. Еще пару лет назад такая обработка на устройстве была недоступна. Но сегодня периферийные устройства - смартфоны, камеры, дроны - могут справляться с рабочими нагрузками искусственного интеллекта.

Это стало возможным только с появлением наборов микросхем с глубоким обучением - или кремний с поддержкой искусственного интеллекта, в том числе графических процессоров среди других микросхем. И рынок наборов микросхем AI стремительно растет.

«Практически с нуля несколько лет назад [крайние ИИ-чипы] принесут более 2,5 млрд долларов США в виде« нового »дохода в 2020 году с 20-процентным ростом в течение следующих нескольких лет», - говорится в отчете Deloitte «Использование ИИ в Устройство." [См. Рисунок «Передовая индустрия искусственного интеллекта готовится к росту» из вышеупомянутого отчета Deloitte.]

Согласно отчету Tractica «Наборы микросхем глубокого обучения», ожидается, что к 2025 году рынок наборов микросхем AI достигнет 72,6 млрд долларов.

По мнению экспертов, потребительский рынок подготовил почву для этого. Сегодня, в 2020 году, рынок потребительских устройств, вероятно, составит 90% рынка периферийных микросхем ИИ с точки зрения количества проданных товаров и их долларовой стоимости.

«Рынок смартфонов находится на переднем крае», - сказал Адитья Каул, старший директор аналитической компании Tractica, недавно опубликовавшей отчет «Наборы микросхем для глубокого обучения». Смартфоны по-прежнему составляют около 40-50% рынка наборов микросхем AI.

Но, по словам Кауля, обработка на периферии с поддержкой ИИ приходит на предприятия в таких областях, как промышленный Интернет вещей и розничная торговля, а также здравоохранение и производство. «Вы можете назвать это« передовой ИИ корпоративного уровня », - сказал Каул.

По словам Кауля, стимулом для внедрения ИИ на периферии предприятиями является «ясность в сценариях использования». Например, машинное зрение, автоматизирующее проверку продукции и управление процессами, может повысить качество и эффективность ранее выполняемых вручную процессов в таких областях, как промышленный цех.

«Люди начинают использовать глубокое обучение [в промышленных условиях] для выявления неисправностей в автомобильной промышленности, например:они могут обнаруживать дефекты в дверях, ручках или стекле во время сборки. «В пищевой промышленности и производстве напитков они определяют несвежие помидоры, или фабрика по производству печенья может определить печенье неправильной формы», - сказал Каул.

Однако в дополнение к контролю качества отрасли используют машинное зрение для продвижения нового опыта. «Розничная торговля - это огромный сектор, в котором мы видим, что некоторые из этих событий происходят», - сказал Кауль. Это преимущество корпоративного уровня и использование камер в супермаркетах для покупательской аналитики. Где они бездельничают и смотрят определенные продукты?

ИИ на периферии работает с облачными вычислениями

Искусственный интеллект на периферии возродил интерес к аппаратному обеспечению после нескольких лет, в течение которых программное обеспечение было королем.

Но задача искусственного интеллекта на периферии - обеспечить малую задержку, а распределенное оборудование может обеспечить обработку без помощи облака.

«С развитием ИИ аппаратное обеспечение снова стало модным, после многих лет, когда программное обеспечение вызывало наибольший интерес корпораций и инвесторов», - говорится в отчете McKinsey «Искусственный интеллект:время действовать».

Аппаратное обеспечение также вернуло в моду децентрализованную вычислительную архитектуру, в которой централизованные архитектуры связаны с задержками и проблемами безопасности данных.

«Вы хотите, чтобы решения принимались сразу же, а не полагаться на задержку облака», - сказал Каул. «Кроме того, вам не нужны данные в стороннем облаке. С точки зрения безопасности данные должны оставаться локальными ».

В конечном итоге эксперты предполагают, что ИИ на периферии станет дополнительной архитектурой к существующей архитектуре облачных вычислений.

«ИИ в облаке может работать синергетически с ИИ на периферии», - написал Сони. «Представьте себе автомобиль с искусственным интеллектом, такой как Tesla. Искусственный интеллект на грани принимает бесчисленные решения в режиме реального времени, такие как торможение, рулевое управление и смена полосы движения. Ночью, когда автомобиль припаркован и подключен к сети Wi-Fi, данные загружаются в облако для дальнейшего обучения алгоритма ».

Ожидания дальнейшего роста ИИ на грани

Рост рынка периферийных микросхем ИИ в значительной степени связан с увеличением возможностей самого аппаратного обеспечения. Но это также связано с оперативными изменениями в подходе к ИИ в разных отраслях.

Действительно, в то время как традиционные отрасли, такие как промышленное производство, ранее неохотно относились к внедрению искусственного интеллекта в процессы, теперь они считают ИИ на периферии выгодным - действительно, ключом к рентабельности инвестиций. В результате они внедряют в свои процессы аналитику больших данных, обучающие алгоритмы для повышения точности этих процессов и видят результаты в контроле качества.

«Единственный способ сделать эти модели точными - это обучить их правильным данным», - сказал Каул. «Два года назад в этих секторах мало кто мог бы найти людей, где, если бы вы спросили их об обучающих данных, они бы посмотрели на вас как-то странно. Но теперь все больше людей понимают, как работает ИИ », - сказал он.

Tractica прогнозирует, что этот рост продолжится, и в 2021–2022 годах наступит «переломный момент», - сказал Кауль, - с «быстрым переходом к ускорителям искусственного интеллекта и микросхемам ASIC».

Однако стоит ожидать, что рост будет измеряться, - подчеркнул Кауль.

«Многие из этих поставщиков и рынки - с точки зрения инноваций - находились в состоянии стагнации», - сказал Кауль. «За последние 20-30 лет не было большого количества инноваций. Так что они обычно медленно двигаются. Но в некоторых областях дела идут лучше - в области промышленного видения, медицины и розничной торговли. Все еще рано. Но ситуация начинает улучшаться », - сказал он.