NVIDIA объединяется с VMware для преобразования экономики ИИ

За счет повышения коэффициента использования графических процессоров стоимость создания и развертывания приложений ИИ существенно снизится.

Сегодня на конференции VMworld 2019 NVIDIA и VMware объявили, что они совместно сделают возможным развертывание виртуальных машин VMware на графических процессорах (GPU).

В рамках этой инициативы NVIDIA объявила, что ее программное обеспечение для виртуальных графических процессоров (vGPU) теперь можно развертывать на виртуальных машинах на серверах в дополнение к существующей поддержке клиентских систем. Программное обеспечение NVIDIA Virtual Compute Server (vComputeServer) для графических процессоров также расширяется, чтобы добавить поддержку платформ VMware vSphere. NVIDIA также обязалась сделать свой центр доступа к инструментам для создания приложений искусственного интеллекта (ИИ) доступным на платформах VMware.

См. также: Каковы 3 ключевых компонента готовности искусственного интеллекта?

Используя эти технологии NVIDIA, VMware обязалась предоставить облачный сервис, состоящий из инстансов Amazon EC2 без операционной системы, ускоренных графическими процессорами NVIDIA T4 с программным обеспечением vComputeServer в VMware Cloud on AWS.

В совокупности эти достижения не только значительно улучшают использование графических процессоров, но и позволяют специалистам по обработке и анализу данных объединять несколько рабочих нагрузок на графические процессоры, работающие на серверах VMware, расположенных локально или в облаке, — говорит Джон Фанелли, вице-президент по продуктам NVIDIAGrid.

Хотя интерес к использованию графических процессоров для создания приложений искусственного интеллекта (ИИ) был огромным, стоимость создания этих приложений часто была непомерно высокой. В отсутствие виртуальной машины каждый графический процессор ранее был выделен для выполнения одной рабочей нагрузки за раз. По словам Фанелли, за счет увеличения коэффициента использования графических процессоров стоимость создания и развертывания приложений ИИ существенно снизится.

Это очень важно, потому что эти расходы не позволяют организациям вкладывать больше средств в приложения ИИ, которые могут изменить почти все аспекты человеческого существования.

«ИИ — самая мощная технология нашего времени, — говорит Фанелли.

Однако производительность этих рабочих нагрузок ИИ, выполняемых на виртуальных машинах, будет варьироваться в зависимости от их индивидуальных характеристик, говорит Фанелли. По словам Фанелли, многие разработчики смогут компенсировать любые проблемы с производительностью, воспользовавшись набором инструментов NVIDIA CUDA для параллельного выполнения рабочих нагрузок ИИ.

Поскольку эффективное создание и развертывание приложений ИИ становится более доступным, количество проектов ИИ, которые будут запущены в ближайшие месяцы, должно увеличиться. По словам VMware, для ускорения этого процесса клиенты смогут переносить рабочие нагрузки с экземпляров GPU, работающих в локальных центрах обработки данных, в облако с помощью инструментов VMware HCX, которые автоматизируют перемещение виртуальных машин и ускоряют передачу данных между платформами.

Графические процессоры, к которым в основном обращаются в облаке, стали предпочтительной платформой для обучения моделей ИИ из-за того, насколько эффективно графические процессоры управляют памятью и операциями ввода-вывода. Однако NVIDIA с переменным успехом также полагалась на графические процессоры для запуска механизмов логического вывода, необходимых для выполнения этих моделей ИИ вместо серверов x86. Добавив поддержку серверных виртуальных машин в свое программное обеспечение, станет намного проще запускать несколько механизмов логического вывода на одной и той же платформе графического процессора почти так же, как механизмы логического вывода развертываются на платформах x86.

Конечно, наличие доступа к дополнительным ресурсам инфраструктуры не обязательно гарантирует успех ИИ. Эти ресурсы, однако, помогут снизить цену ошибки в процессе разработки ИИ.