Искусственный интеллект получает огромный импульс Kubernetes

Кармин Рими из Canonical

Согласно исследованию Стэнфордского университета, с начала века количество запусков искусственного интеллекта (ИИ) увеличилось в 14 раз. «Только в Великобритании», - говорит Кармин Рими, менеджер по продукции искусственного интеллекта в Canonical . - компания, стоящая за Ubuntu, Разработчики ИИ стали свидетелями 200% -ного всплеска венчурного финансирования только за последний год; поскольку преобразующий потенциал ИИ разрушает все границы.

Создание приложений искусственного интеллекта для улучшения способов ведения бизнеса и, по сути, улучшения жизни людей - огромная задача. Эти приложения сложно разрабатывать и создавать, поскольку они включают в себя такие различные типы данных; затрудняет перенос на разные платформы.

Помимо этих проблем, на каждом этапе необходимо выполнить несколько шагов, чтобы начать создание даже самого простого приложения ИИ. Для поддержки сравнительно небольшого подмножества реального кода машинного обучения необходим спектр навыков, включая извлечение функций, проверку и анализ сбора данных, а также управление машинными ресурсами. Прежде чем занять позицию на стартовой линии, необходимо проделать большую работу; наряду с постоянными усилиями по поддержанию актуальности приложений. Все разработчики ищут способы справиться с этими серьезными проблемами.

Сдерживайте себя

Результатом этого поиска, чтобы поддерживать приложения в актуальном состоянии и балансировать рабочие нагрузки при разработке приложений, часто приходит один и тот же ответ - Kubernetes. Эта платформа с открытым исходным кодом может быть помощником, поскольку она может автоматизировать развертывание и управление контейнерными приложениями, включая сложные рабочие нагрузки, такие как искусственный интеллект и машинное обучение. Kubernetes получил удовольствие от чего-то впечатляющего, потому что он способен на эти вещи, но также и как платформа для оркестровки контейнеров.

Forrester недавно заявил, что «Kubernetes выиграл войну за доминирование в оркестровке контейнеров и должен быть в центре ваших планов по микросервисам». Контейнеры обеспечивают компактную среду для работы процессов. Их легко масштабировать, переносить в различные среды и, следовательно, они позволяют разделить большие монолитные приложения на целевые, простые в обслуживании микросервисы. Согласно опросу Cloud Native Computing Foundation, большинство разработчиков говорят, что они используют Kubernetes на различных этапах разработки.

Большинство компаний используют или планируют начать использовать Kubernetes в качестве платформы для рабочих нагрузок. Конечно, ИИ - это рабочая нагрузка, которая быстро приобретает все большее значение. Kubernetes идеально подходит для этой задачи, потому что алгоритмы ИИ должны иметь возможность масштабирования, чтобы быть эффективными. Для некоторых алгоритмов глубокого обучения и наборов данных требуется большой объем вычислений. Kubernetes может здесь помочь, потому что он ориентирован на масштабирование в соответствии со спросом.

Kubernetes также может предоставить дорожную карту для развертывания рабочих нагрузок с поддержкой ИИ на нескольких стандартных серверах, охватывающих программный конвейер, при этом абстрагируя накладные расходы на управление. После обучения моделей обслуживание их в различных сценариях развертывания, от периферийных вычислений до центральных центров обработки данных, является сложной задачей для неконтейнерных форм приложений. И снова Kubernetes может разблокировать необходимую гибкость для распределенного развертывания агентов логического вывода на различных субстратах.

Смена фокуса

По мере того, как предприятия обращают внимание на ИИ, чтобы сократить операционные расходы, улучшить процесс принятия решений и по-новому обслуживать клиентов, контейнеры на основе Kubernetes быстро становятся технологией номер один, помогающей компаниям внедрять ИИ и машинное обучение. В декабре прошлого года проект Kubernetes представил Kubeflow, цель которого - сделать развертывание рабочих процессов машинного обучения в Kubernetes простым, переносимым и масштабируемым.

Хотя Kubernetes начал жизнь только с сервисов без сохранения состояния, в проекте говорилось, что клиенты начали переносить сложные рабочие нагрузки на платформу, используя «богатые API, надежность и производительность Kubernetes». Один из наиболее быстрорастущих вариантов использования Kubernetes - это предпочтительная платформа развертывания для машинного обучения.

В начале 2017 года только Google Облачная платформа поддерживает Kubernetes с его движком Google Kubernetes Engine. В кульминационный момент года все крупные поставщики общедоступных облачных сред были на борту. Особенно после Microsoft добавлена ​​поддержка Kubernetes в службу контейнеров Azure и Amazon дебютировал с Amazon Elastic Container Service для Kubernetes.

Способы развертывания и использования Kubernetes в бизнесе кажутся безграничными. За относительно короткий срок жизни Kubernetes многого добился. Это подчеркивает степень, в которой поставщики технологий и их клиенты склоняются к мнению, что контейнеры предоставляют огромные преимущества при разработке и управлении ИИ-компонентами приложений. Появление ИИ вызывает огромный интерес к контейнерам, которые обеспечивают повторяемость и отказоустойчивость этих сложных рабочих нагрузок.

Kubernetes становится де-факто стандартное и фантастическое соответствие для управления контейнерными приложениями ИИ. Он зарекомендовал себя и должен еще долгое время приносить огромную пользу бизнесу.

Автор - Кармин Рими, менеджер по продукту AI в Canonical.