NVIDIA и VMware партнерствуют для ускорения стоимостной эффективности ИИ с виртуализацией GPU

За счет повышения коэффициента использования GPU стоимость создания и развертывания приложений ИИ существенно снизится.

На конференции VMworld 2019 сегодня NVIDIA и VMware объявили, что вместе сделают возможным развертывание виртуальных машин VMware на графических процессорах (GPU).

В рамках этой инициативы NVIDIA объявила, что ее программное обеспечение виртуального GPU (vGPU) теперь может развертываться на виртуальных машинах на серверах в дополнение к существующей поддержке клиентских систем. Программное обеспечение NVIDIA Virtual Compute Server (vComputeServer) для GPU также расширяется для добавления поддержки платформ VMware vSphere. NVIDIA также обязалась сделать свой центр для доступа к инструментам создания приложений искусственного интеллекта (ИИ) доступным на платформах VMware.

См. также: Каковы 3 ключевых компонента готовности к искусственному интеллекту?

Используя эти технологии NVIDIA, VMware обязалась сделать доступным облачный сервис, состоящий из экземпляров Amazon EC2 bare metal, ускоренных GPU NVIDIA T4, работающих на программном обеспечении vComputeServer на VMware Cloud on AWS.

В совокупности эти достижения не только имеют значительные последствия для улучшения использования GPU, но также позволяют ученым данным объединять несколько рабочих нагрузок на GPU, работающих на серверах VMware, размещенных локально или в облаке, говорит Джон Фанелли, вице-президент по продукту для NVIDIA Grid.

Хотя интерес к использованию GPU для создания приложений искусственного интеллекта (ИИ) был огромным, стоимость создания этих приложений часто была запредельной. В отсутствие виртуальной машины каждый GPU ранее был выделен для запуска только одной рабочей нагрузки за раз. За счет повышения коэффициента использования GPU стоимость создания и развертывания приложений ИИ будет существенно снижена, говорит Фанелли.

Это критически важно, потому что эти затраты сдерживали организации от больших инвестиций в приложения ИИ, которые имеют потенциал преобразовать почти все аспекты человеческого бытия.

«ИИ — самая мощная технология нашего времени», говорит Фанелли.

Производительность этих рабочих нагрузок ИИ, запущенных на виртуальных машинах, однако будет варьироваться в зависимости от их индивидуальных атрибутов, говорит Фанелли. Многие разработчики смогут компенсировать любые проблемы с производительностью, воспользовавшись набором инструментов NVIDIA CUDA для выполнения рабочих нагрузок ИИ параллельно, отметил Фанелли.

По мере того как становится более доступным эффективно создавать и развертывать приложения ИИ, количество ИИ-проектов, которые будут запущены в ближайшие месяцы, должно увеличиться. Чтобы ускорить этот процесс, VMware также заявила, что клиенты смогут мигрировать рабочие нагрузки с GPU-экземпляров, работающих в локальных центрах обработки данных, в облако, используя инструменты VMware HCX, автоматизирующие перемещение виртуальных машин и ускоряющие передачу данных между платформами.

GPU, к которым в основном обращаются через облако, стали предпочтительной платформой для обучения моделей ИИ из-за того, насколько эффективно GPU управляют памятью и накладными расходами ввода-вывода. Однако NVIDIA с разным успехом отстаивала необходимость полагаться на GPU для запуска движков вывода, необходимых для выполнения этих моделей ИИ, вместо серверов x86. Добавлением поддержки серверных виртуальных машин в свое программное обеспечение, должно стать гораздо более целесообразным запуск нескольких движков вывода на одной GPU-платформе примерно так же, как движки вывода развертываются на платформах x86.

Конечно, наличие доступа к дополнительным инфраструктурным ресурсам не обязательно гарантирует успех ИИ. Однако эти ресурсы в значительной степени помогут снизить стоимость ошибок в процессе разработки ИИ.