NVIDIA GTC представляет Jetson AGX Orin: 200 TOPS в самом компактном суперкомпьютере для Edge AI

На глобальной технологической конференции NVIDIA (GTC) компания представила Jetson AGX Orin — компактный, но мощный AI-суперкомпьютер, созданный для робототехники, автономных систем, медицинских устройств и широкого спектра встроенных пограничных приложений.

Используя архитектуру Ampere, Jetson AGX Orin обеспечивает производительность 200 триллионов операций в секунду — эквивалент серверного GPU — сохраняя при этом тот же форм-фактор и совместимость по выводам, что и его предшественник, Jetson AGX Xavier. В результате получается шестикратный рост вычислительной мощности, упакованный в модуль размером с ладонь.

Благодаря полной поддержке программного стека NVIDIA AI разработчики могут развертывать самые сложные модели, необходимые для решения задач Edge AI, включая понимание естественного языка, 3D-восприятие и мультисенсорную фузию.

«Робототехника и встроенные вычисления перестраивают производство, здравоохранение, ритейл, транспорт и умные города, стимулируя растущий спрос на высокопроизводительную обработку», — сказал Дипу Талла, вице-президент и генеральный менеджер отдела встроенных и пограничных вычислений NVIDIA. «Jetson AGX Orin удовлетворяет эту потребность, предоставляя 850 000 разработчикам Jetson и более 6000 компаниям, создающим коммерческие продукты, возможность создавать автономные машины и решения Edge AI, которые раньше были недоступны».

Модуль интегрирует GPU на архитектуре Ampere, CPU Arm Cortex-A78AE и новые ускорители глубокого обучения и компьютерного зрения. Высокоскоростные интерфейсы, расширенная пропускная способность памяти и поддержка мультимодальных сенсоров позволяют запускать несколько конвейеров ИИ одновременно.

Программная поддержка и экосистема

Клиенты Jetson AGX Orin получают доступ к стеку ускоренных вычислений CUDA-X, SDK JetPack и новейшим инструментам NVIDIA, включая облачные нативные рабочие процессы. Предварительно обученные модели из каталога NVIDIA NGC уже оптимизированы для тонкой настройки с помощью набора инструментов TAO, что сокращает время и затраты на внедрение промышленных решений ИИ. Облачные нативные технологии также упрощают обновления на протяжении всего жизненного цикла продукта.

Экосистема партнеров Jetson предлагает камеры, мультимодальные сенсоры, несущие платы, услуги проектирования оборудования, ПО для ИИ и систем, инструменты разработчика и разработку 맞춤ного ПО — создавая комплексную среду для быстрой инновации.

Влияние на отрасли

«Прогресс в ИИ ускоряет рынок робототехники», — отметил Джим Макгрегор, главный аналитик TIRIAS Research. «Лидерство NVIDIA в ИИ в сочетании с надежной экосистемой и комплексными решениями обеспечивает беспрецедентный прогресс в автономных мобильных роботах в сельском хозяйстве, производстве, здравоохранении и умных городах».

Ключевые программные фреймворки включают NVIDIA Isaac Sim на Omniverse для робототехники, NVIDIA Clara Holoscan SDK для здравоохранения и NVIDIA DRIVE для автономного вождения. Последний выпуск Isaac предлагает улучшенную поддержку ROS, а Omniverse Replicator и Isaac GEMs предоставляют генерацию синтетических данных и аппаратно-ускоренные пакеты для разработчиков ROS.

Оперативное сенсирование для медицинских устройств

Jetson AGX Orin питает Clara Holoscan — вычислительную платформу, позволяющую разработчикам создавать программно-определяемые медицинские устройства, способные к потоковой передаче с низкой задержкой и поддержке принятия решений ИИ в реальном времени. Эта возможность критически важна для роботизированной хирургии, эндоскопии и диагностической визуализации, позволяя устройствам обрабатывать физические, изображающие и визуализационные данные на периферии, делегируя более сложные задачи центрам обработки данных.

ИИ-ассистенты для транспорта

DRIVE AGX Orin, также основанный на архитектуре Ampere, питает платформы NVIDIA DRIVE Concierge и DRIVE Chauffeur — ИИ-платформы, которые переопределяют опыт пассажиров в автомобиле и обеспечивают безопасное автономное вождение. Глобальные автопроизводители, стартапы в области электромобилей и операторы шаттлов используют его высокопроизводительные ИИ-вычисления для решений интеллектуальной мобильности нового поколения.

Модуль Jetson AGX Orin и набор для разработчиков начнут поставляться в Q1 2022 года.