AI на Edge: от потребительских инноваций к Enterprise-grade решениям

Data-driven опыт обещает глубину, немедленность и иммерсивность — но они также требуют мгновенных, массивных потоков данных, которые не могут терпеть облачную латентность.

Рассмотрите дрон-доставку пиццы, камеры мониторинга трафика, захватывающие аварии на лету, или грузовики, предотвращающие системные сбои в реальном времени.

Такие быстрые, данные-интенсивные задачи требуют on-site обработки. Отправка всех данных в облако вводит задержки, которые могут компрометировать безопасность и производительность. Edge-вычисления держат вычисления близко к источнику данных, устраняя round-trip латентность.

«Автономный транспорт не может ждать даже десятой доли секунды для активации экстренного торможения, когда AI предсказывает столкновение», — объясняет профессор Северо-Западного университета Моханбир Сауни в Why Apple and Microsoft Are Moving to the Edge. «В этих сценариях AI должен находиться на edge, где решения принимаются мгновенно без зависимости от сетевой коннективности или перемещения огромных объемов данных по сети».

«AI edge процессоры позволяют самому устройству или близкому серверу обрабатывать нагрузку, вместо оффлоадинга всего в облако», — говорит Адитья Каул, директор исследований Omdia.

AI на Edge: Enterprise vs Потребительский адопшн

Недавние прогрессы в AI чипах — особенно GPU, доставляющих более 10 терафлопс (10 триллионов операций с плавающей точкой в секунду) — трансформировали смартфоны, камеры идроны в способные AI-рабочие лошадки. Несколько лет назад такой on-device inference был неслыхан; сегодня edge-устройства рутинно обрабатывают сложные нагрузки.

Deep-learning чипсеты, включая GPU и кастомные ASIC, спровоцировали быстрый рыночный скачок. Отчет Deloitte Bringing AI to the Device прогнозирует, что edge AI чипы сгенерируют более $2,5 млрд новой выручки в 2020, растущие на 20% ежегодно в ближайшие годы.

Отчет Tractica Deep Learning Chipsets проецирует рынок AI чипсетов к $72,6 млрд к 2025 году.

Потребительская электроника сейчас доминирует в ландшафте edge AI чипов, представляя примерно 90% проданных единиц и долларовой стоимости в 2020. Смартфоны в одиночку аккаунтят за 40–50% рынка.

Каул отмечает, что enterprise адопшн ускоряется, особенно в промышленном IoT, ритейле, здравоохранении и производстве — то, что он называет «enterprise-grade AI edge».

Четкие, высоко-влиятельные кейсы драйвят этот сдвиг. Машинное зрение, например, автоматизирует инспекцию продукта и процесс-контроль на заводских полах, улучшая качество и эффективность. Отрасли теперь используют глубокое обучение для выявления дефектов в автосборочных линиях, обнаружения порчи в продуктах и формирования линий производства бисквитов.

Ритейл выигрывает от edge AI через камерную аналитику шопперов, идентифицируя dwell time и паттерны вовлечения.

AI на Edge работает Hand-in-Hand с облачными вычислениями

Ренессанс edge-вычислений подсвечивает возобновленный фокус на железе. Как отмечает отчет McKinsey Artificial Intelligence: The Time To Act Is Now, железо восстановило prominence после лет, доминированных софтверной инновацией.

Edge-архитектуры предлагают низкую латентность и усиленную безопасность данных, держа чувствительную информацию on-premises. «Решения должны происходить локально, не через third-party облако, для скорости и безопасности», — объясняет Каул.

В конечном счете, edge AI дополняет, а не заменяет облачный AI. Сауни иллюстрирует это с автомобилями Tesla: реальное-время edge AI управляет торможением, рулением и сменой полос, в то время как ночные загрузки данных уточняют модели в облаке.

Ожидания продолженного роста AI на Edge

Прогресс в производительности чипов, в связке с эволюционирующими промышленными отношениями к AI, подкрепляют устойчивый рост. Традиционные производственные секторы, когда-то осторожные к AI интеграции, теперь видят edge AI как ключевой драйвер ROI, встраивая big-data аналитику и непрерывно обучая модели для более высокой точности.

«Точные модели зависят от высококачественных тренировочных данных», — утверждает Каул. «Где два года назад тренировочные данные были новинкой, сегодня это стандартная практика по секторам».

Tractica прогнозирует точку перегиба в 2021–2022, с быстрым переходом к AI акселераторам и ASIC чипам. Пока инновации исторически отставали во многих рынках, текущая волна уже очевидна в промышленном зрении, медицинской визуализации и ритейле — хотя полный импульс все еще набирается.