Объяснение Neoclouds:зачем искусственному интеллекту нужны облачные вычисления с ориентацией на графические процессоры

Рабочие нагрузки ИИ становятся мейнстримом практически во всех отраслях. Но по мере роста спроса на ИИ растет и нагрузка на инфраструктуру. К сожалению, традиционные варианты доступа к высокопроизводительным вычислениям не оправдывают ожиданий, что заставляет предприятия искать альтернативы. Некоторые обращаются к неооблакам – новому типу поставщиков вычислительных услуг, ориентированных на графические процессоры.

Интерес к этим новым поставщикам растет из-за изменений в компьютерных технологиях; для которого характерна растущая зависимость от графических процессоров для искусственного интеллекта. Хотя графические процессоры хорошо подходят для решения задач параллельной обработки при обучении и выводе ИИ, они общеизвестно дороги и дефицитны. Высокопроизводительный графический процессор может стоить десятки тысяч долларов, и это только в том случае, если компания сможет его найти. Циклы закупок длительны, время выполнения заказов непредсказуемо, а корпоративные ИТ-команды часто испытывают трудности с приобретением достаточных мощностей для удовлетворения спроса.

Поставщики гипермасштабируемых облаков, такие как AWS, Google Cloud и Azure, попытались восполнить этот пробел, предлагая экземпляры графических процессоров и графические процессоры как услугу. Для многих организаций эта модель работает, но лишь до определенного момента.

Облачные экземпляры графических процессоров обеспечивают гибкость, масштабируемость и быстрое развертывание. Но по мере роста использования растет и счет. Модель оплаты по мере использования быстро становится непомерно дорогостоящей при масштабировании, особенно для устойчивых рабочих нагрузок, таких как обучение модели большого языка (LLM), точная настройка или вывод в реальном времени для корпоративных приложений.

В результате многие организации оказываются между молотом (недостаточная и дорогая локальная инфраструктура) и наковальней (высокие затраты на графические процессоры в публичном облаке).

Познакомьтесь с Neoclouds

В этой среде появляется новая категория поставщиков вычислительных услуг:поставщики неооблачных вычислений. Поставщики инфраструктуры Neocloud предлагают высокопроизводительные вычисления, в значительной степени основанные на графических процессорах, по более доступным ценам (по крайней мере, по их мнению). Они достигают этого, используя нетрадиционное происхождение, новые экономические модели и различные инфраструктурные стратегии.

Например, некоторые неооблака уходят своими корнями в майнинг криптовалют. Во время криптовалютного бума последнего десятилетия тысячи майнеров по всему миру построили центры обработки данных, оснащенные серверами с графическими процессорами, оптимизированными для операций по добыче полезных ископаемых. Поскольку рынок криптовалют остыл, а майнинг стал менее прибыльным, эти операторы оказались с большим количеством простаивающих мощностей графических процессоров. Вместо того, чтобы позволить этому оборудованию обесцениваться на складе, некоторые перепрофилировали свое оборудование для рабочих нагрузок ИИ, и так появилось неооблако.

Другие компании в этой области — это специально созданные стартапы, которые увидели возможность предложить более экономичную альтернативу гиперскейлерам за счет оптимизации соотношения цены и производительности и обхода накладных расходов, связанных с устаревшими облачными операциями. Некоторые используют стеки программного обеспечения с открытым исходным кодом и размещаются в недорогих центрах обработки данных; другие аккумулируют избыточную мощность графических процессоров в децентрализованных сетях, образуя своего рода «спотовый рынок графических процессоров», на который предприятия могут выйти с меньшими затратами.

Преимущества модели Neoclouds

Поставщики neocloud заявляют, что компаниям, которым нужны вычислительные мощности искусственного интеллекта без непомерных затрат, они могут предоставить несколько преимуществ, в том числе:

Снижение стоимости за час использования графического процессора :Neoclouds часто взимают лишь часть стоимости гиперскейлеров за сопоставимые экземпляры графических процессоров. Они утверждают, что их экономичные операционные модели и стратегии повторного использования оборудования приводят к реальной экономии.

Выделенный доступ :Во многих случаях провайдеры neocloud предлагают выделенный доступ к графическим процессорам без оборудования, что снижает конкуренцию и обеспечивает предсказуемую производительность.

Быстрая доступность :поставщики neocloud заявляют, что благодаря гибким процессам закупок и предоставления ресурсов они часто могут предоставлять мощности намного быстрее, чем традиционные поставщики, что помогает командам без задержек выполнять итерации и развертывать модели искусственного интеллекта.

Децентрализация и устойчивость :Некоторые неооблака работают на основе распределенных моделей, получая вычислительные ресурсы из географически разбросанных центров обработки данных или сетей независимых операторов.

Устойчивое развитие :Перепрофилирование существующего оборудования, особенно из индустрии криптовалют, сокращает электронные отходы и способствует более устойчивым практикам ИТ. Некоторые неооблака также размещаются на объектах, работающих на возобновляемых источниках энергии, что еще больше снижает выбросы углекислого газа.

См. также: Сдвиг на рынке графических процессоров:использование падения криптовалютного майнинга

Переосмысление графических процессоров как услуги

По своей сути неооблака представляют собой новый взгляд на модель графического процессора как услуги. К поставщикам неооблачных технологий относятся CoreWeave, Crusoe, Lambda Labs, Nebius, Vast.ai и другие.

Они меньше сосредоточены на объединении графических процессоров с проприетарными услугами и больше заинтересованы в предоставлении высокопроизводительных вычислений по цене, которая делает крупномасштабный искусственный интеллект жизнеспособным для большего числа предприятий.

Демократизируя доступ к доступным графическим процессорам, поставщики неооблачных технологий полагают, что смогут снизить входной барьер для компаний, стремящихся создавать или масштабировать приложения искусственного интеллекта. Небольшие стартапы могут обучать собственные модели, не тратя начальное финансирование. Предприятия могут точно настраивать LLM на своих собственных данных, не уступая контроль и не тратя перерасход. А исследовательские учреждения могут проводить моделирование и эксперименты, не ограничиваясь бюджетными ограничениями.

Несмотря на эти преимущества, провайдеры неооблачных вычислений, вероятно, в ближайшем будущем будут конкурировать с гиперскейлерами на рынке графических процессоров как услуги. По данным Fortune Business Insights, этот рынок оценивался в 3,23 миллиарда долларов в 2023 году и, по прогнозам, к 2032 году вырастет до 49,84 миллиарда долларов, что соответствует темпу роста 36%. (Эта оценка включает как гиперскейлеры, так и неооблака.)

Заключительные мысли

Требования к вычислительным ресурсам для ИИ продолжают расти. Поставщики Neocloud — это новое поколение поставщиков облачной инфраструктуры, ориентированных на искусственный интеллект, которые стремятся удовлетворить эти потребности. Они отличаются от традиционных гиперскейлеров (таких как AWS, Azure и GCP), уделяя особое внимание оптимизированной доступности графических процессоров, гибкому ценообразованию и специализированной производительности для рабочих нагрузок AI/ML, а также другим ключевым функциям.