Nvidia GTC:новый модуль Jetson предлагает 200 TOPS для встроенного периферийного ИИ

На Nvidia GTC анонсирован Nvidia Jetson AGX Orin, который, по словам компании, является самым маленьким, самым мощным и энергоэффективным суперкомпьютером AI для робототехники, автономных машин, медицинских устройств и других форм встраиваемых вычислений на периферии.

Построенный на архитектуре Nvidia Ampere, Jetson AGX Orin обеспечивает в 6 раз большую вычислительную мощность и поддерживает форм-фактор и совместимость по выводам со своим предшественником Jetson AGX Xavier. Он выполняет 200 триллионов операций в секунду, аналогично серверу с графическим процессором, но его размер умещается в ладони.

Новый компьютер Jetson ускоряет полный стек программного обеспечения Nvidia AI, позволяя разработчикам развертывать самые большие и сложные модели, необходимые для решения сложных задач искусственного интеллекта и робототехники в понимании естественного языка, трехмерном восприятии и мультисенсорном слиянии.

«По мере того как робототехника и встроенные вычисления меняют производство, здравоохранение, розничную торговлю, транспорт, умные города и другие важные секторы экономики, спрос на обработку данных продолжает расти, - сказал Дипу Талла, вице-президент и генеральный менеджер по встроенным и периферийным вычислениям в Nvidia. . «Jetson AGX Orin удовлетворяет эту потребность, позволяя 850 000 разработчиков Jetson и более 6000 компаний, создающих на нем коммерческие продукты, создавать и развертывать автономные машины и периферийные приложения AI, которые когда-то казались невозможными».

Jetson AGX Orin оснащен графическим процессором с архитектурой Nvidia Ampere и процессорами Arm Cortex-A78AE, а также ускорителями глубокого обучения и зрения следующего поколения. Высокоскоростные интерфейсы, более высокая пропускная способность памяти и поддержка мультимодальных датчиков обеспечивают возможность подачи питания на несколько параллельных конвейеров приложений ИИ.

Поддержка программного обеспечения и экосистемы
Клиенты, использующие Jetson AGX Orin, могут использовать стек ускоренных вычислений CUDA-X, JetPack SDK и новейшие инструменты Nvidia для разработки и оптимизации приложений, включая рабочие процессы разработки в облачной среде. Предварительно обученные модели из каталога Nvidia NGC оптимизированы и готовы к точной настройке с помощью набора инструментов TAO и наборов данных клиентов. Это сокращает время и затраты на развертывание ИИ производственного качества, а облачные технологии позволяют легко обновлять продукт на протяжении всего срока его службы.

Партнерская экосистема встраиваемых вычислений Jetson включает в себя широкий спектр услуг и продуктов, в том числе камеры и другие мультимодальные датчики, несущие платы, услуги по проектированию оборудования, искусственный интеллект и системное программное обеспечение, инструменты разработчика и разработку индивидуального программного обеспечения.

«Благодаря достижениям в области искусственного интеллекта рынок робототехники растет в геометрической прогрессии», - сказал Джим МакГрегор, главный аналитик TIRIAS Research. «Nvidia является признанным лидером в области искусственного интеллекта и продолжает использовать этот опыт для развития робототехники с помощью надежной экосистемы и полных комплексных решений, включая ряд аппаратных платформ, которые используют общие инструменты и модели нейронных сетей. Новая платформа Jetson сочетает в себе производительность и универсальность архитектуры Nvidia Ampere, чтобы обеспечить дальнейшее развитие автономных мобильных роботов для широкого спектра приложений, от сельского хозяйства и производства до здравоохранения и умных городов ».

Для конкретных случаев использования программные среды включают Nvidia Isaac Sim on Omniverse для робототехники, Nvidia Clara Holoscan SDK для здравоохранения и Nvidia DRIVE для автономного вождения. Последний выпуск Isaac включает значительную поддержку сообщества разработчиков операционной системы роботов (ROS). Nvidia также выпустила новый Omniverse Replicator для генерации синтетических данных и Isaac GEM, программные пакеты с аппаратным ускорением, которые упрощают разработчикам ROS создание высокопроизводительных роботов с поддержкой ИИ на платформе Jetson.

Обнаружение медицинских инструментов и устройств в режиме реального времени
AGX Orin поддерживает Nvidia Clara Holoscan, новую вычислительную платформу для индустрии здравоохранения, которая позволяет разработчикам создавать программно-определяемые медицинские устройства, которые запускают на периферии потоковые приложения с малой задержкой. Эта вычислительная мощность необходима таким устройствам, как роботизированная хирургия, эндоскопия и системы диагностической визуализации, чтобы обрабатывать физические данные, изображения и визуализацию, а также обеспечивать поддержку принятия решений искусственным интеллектом в реальном времени для врачей. Clara Holoscan предоставляет разработчикам гибкую платформу для создания микросервисов AI, которые запускают потоковые приложения с малой задержкой на устройствах, одновременно передавая более сложные задачи центру обработки данных.

Помощники транспортного ИИ
DRIVE AGX Orin, также работающий на архитектуре Ampere, такой как Jetson AGX Orin, представляет собой платформу для транспортной отрасли. Это усовершенствованный процессор, стоящий за недавно анонсированными Nvidia DRIVE concierge и DRIVE chauffeur - двумя платформами искусственного интеллекта, предназначенными для переопределения опыта пассажиров в автомобиле с помощью помощников AI и обеспечения безопасного автономного вождения, соответственно. Многочисленные мировые производители автомобилей и грузовиков, стартапы новых энергетических транспортных средств и компании-перевозчики используют его высокопроизводительные вычислительные машины с искусственным интеллектом для создания следующего поколения интеллектуальных программно-определяемых мобильных решений.

Модуль и комплект разработчика Jetson AGX Orin будут доступны в первом квартале 2022 года.