Использование пограничных вычислений для IoT, ИИ и новых технологий

IoT, машинное обучение, ИИ, 5G, дополненная и виртуальная реальность — все они выигрывают от увеличения вычислительной мощи на периферии (edge).

Периферия (edge) — это гораздо больше, чем просто набор подключенных устройств или датчиков. Поскольку интеллектуальные устройства и датчики создают массивы данных, бизнесу приходится принимать технологические решения об извлечении максимальной ценности из этих данных. Анализ выполняется на устройстве, на периферии, в облаке или в дата-центре? Данные хранятся для регуляторных целей или для поиска корневых причин проблем? Будут ли новые сервисы вроде 5G играть роль?

Эти вопросы волнуют многие компании сегодня. Чтобы выделить ключевые стратегии и разобраться в подходах к пограничным вычислениям и IoT, мы беседовали с Кришем Айером, руководителем стратегии по Edge и ICV, и Кальвином Смитом, CTO по решениям новых технологий; оба в офисе глобального CTO компании Dell Technologies.

Мы исследовали роль новых технологий, важность edge и IoT сегодня, факторы для принятия решения об обработке на периферии, вычислительные соображения и будущее. Вот краткое содержание нашего разговора.

Новые технологии

RTInsights: Каковы сегодня новые технологии?

Айер: Мы наблюдаем перегиб рынка по нескольким новым технологиям. Edge явно в лидерах вместе с IoT, ИИ и ML. Эти технологии представляют рынок, начинающий получать реальный прирост. Главное — это прирост, при котором многие клиенты начинают видеть edge как расширение своего облака и рассматривают edge как способ распределения рабочих нагрузок, которые не может обработать их облачная инфраструктура. По моему мнению, это, пожалуй, самый важный драйвер, толкающий организации к рассмотрению edge.

Смит: Интересна идея пересечений. Edge не возник из ниоткуда. Многие ранние сценарии IoT теперь становятся более доступными благодаря сочетанию технологий. Криш упомянул IoT, Edge, ML и ИИ. Есть также 5G, AR и VR. В широком смысле, по мере снижения стоимости вычислений и использования GPU на периферии, технологические возможности растут в плане объема автоматизации, которую можно запускать.

Поражает распространение различных технологий, выполняемых там, где данные создаются — на периферии. В конечном счете, даже если созданные на периферии данные уходят обратно в облако или дата-центр, большая часть актуации обратно к этим устройствам также происходит на периферии. Это новый нетто-центр вселенной. Забавно, как процессы идут волнами: от ПК и децентрализованной модели к монолитному дата-центру, затем к псевдо-монолитному облаку, и теперь обратно к распределенной архитектуре. Интересно видеть, как эволюционировали вещи со временем.

Айер: Да. Один из способов взглянуть на Edge — это комбинация гетерогенных систем. Edge не монолитен, не однороден, это набор различных функций. Эти функции обычно собирают данные, обрабатывают и хранят их. Они также должны передавать данные другим функциям или выполнять действия на основе данных для включения других функций вроде обработки и аналитики. Эти функции могут выполняться в сложных условиях — высоких температурах, бездорожье. Поэтому термин «гетерогенный» будет критически важен для edge.

Почему такое внимание к Edge и IoT?

RTInsights: Вы слегка затронули это, но почему весь этот ажиотаж вокруг edge и IoT, и почему сейчас?

Айер: Интересно. Как сказал Кальвин, edge не ново. Edge всегда был. Распределенные системы всегда существовали. Но мы возвращаемся полным кругом. Рынок сдвигается так, что некоторые функции или приложения, обычно работавшие в централизованных дата-центрах или ядре инфраструктуры, обнаруживают проблемы. Компании находят, что у некоторых приложений есть требования к пропускной способности или задержке, невыполнимые централизованным подходом. Это требует переноса приложений ближе к источнику данных.

Как сказал Кальвин, перенос обработки данных ближе к месту их создания обусловлен законами физики — не позволяют запускать некоторые приложения в ядре. Это проблема скорости света. Естественное явление, вызывающее сдвиг от ядра к периферии.

См. также: Центр пограничных вычислений и 5G

Решение: где обрабатывать данные

RTInsights: Это переходит к следующему вопросу: какие факторы бизнесу учитывать, решая, где обрабатывать данные? В частности, какие соображения при решении: обрабатывать на периферии или нет?

Айер: Многие факторы технические, но многие также бизнесовые, правительственные и регуляторные. С технической точки зрения — снова скорость света. Даже если облачные операторы обещают обработку в ядре для удовлетворения требований, стоимость будет настолько высокой, что клиенты скажут: «Ни за что не смогу это оплатить». Клиенты будут смотреть на это как на очевидное решение — перенести обработку на периферию.

Второе — задержка. Для сценариев вроде автономных авто (или AR/VR) факт: несколько миллисекунд лага — разница между безопасным вождением и аварией. Для приложений, требующих результаты за миллисекунды или быстрее, обработка должна быть на периферии.

Третье — управление пропускной способностью. Стоимость отправки огромных объемов данных, о которых говорил Кальвин, в облако и обратно будет дорогой и неэффективной. Это феноменально повысит затраты и станет огромным сдерживающим фактором для большинства клиентов.

Еще один важный фактор — безопасность, особенно для edge. Можно изолировать потенциальные проблемы безопасности до проникновения в ядро дата-центра. Многие организации могут отслеживать и изолировать атаки на периферии и отключать эти системы до попадания проблемы в ядро. Можно делать раннее обнаружение атак на проникновение или DDoS прямо на периферии, отключая вещи до атаки на центральную и ядровую инфраструктуру.

Потом — способность масштабироваться. Вы смотрите на среды, где можно добавлять дополнительные сайты или среды по мере возникновения потребностей. Если это сезонная ситуация или просто нужна больше функциональность, edge обеспечивает высокие уровни масштабируемости.

Это высокоуровневые технические требования, но есть также регуляторные требования для приложений в здравоохранении или GDPR. Во многих случаях мандаты требуют сбор данных на месте генерации, а не передачу обратно в центральный дата-центр. Многие организации обязаны следовать этим мандатам.

Смит: Криш абсолютно прав. Добавлю, что это не дихотомия edge против облака или edge против ядра. Это спектр, континуум. Мы знаем, что будут рабочие нагрузки, запускаемые на периферии, другие — в ядре или облаке. Вопрос в размещении правильных рабочих нагрузок в правильных местах и выполнении в правильное время. Идея десятилетия назад — собирать и хранить всё, вне зависимости от стоимости. Сегодня данные всё еще ключ, но ценность добавляет анализ — говорили: данные — это новый бекон. Данные — новое золото. Данные — новая нефть. Это верно, но не если это статическая информация, не добавляющая ценности. Интересно, когда начинаешь делать базовую фильтрацию и ML на периферии. Не нужно слать каждый экземпляр данных устройства: «Я жив, 22 градуса, все еще 22 градуса» обратно в дата-центр или облако.

Не нужно слать такие сообщения на суб-миллисекундной основе. Если сделаешь это, станет очень дорого очень быстро при огромном объеме устройств в мире. Хочешь разбирать эти данные и понимать их на периферии, in situ. Некоторые быстроустаревающие, эфемерные данные имеют ценность только короткое время. Надо делать обнаружение аномалий, чтобы понять, какую важную информацию действительно нужно слать обратно или хранить. В ядре или облаке можно делать более глубокий анализ: как это происходило раньше? Происходит ли эта аномалия с другими частями парка активов в поле? Там начинается ценность. Нужен весь стек и единый взгляд на все данные. Важно: помимо ключевых параметров, о которых сказал Криш, есть логические причины для рассмотрения. Параметры для всей распределенной архитектуры, и нужно разобраться, что имеет смысл хранить, пересылать, анализировать и обрабатывать, где, когда и почему. Логика разная практически для любой архитектуры. Всё сильно зависит от сценария использования и самой инфраструктуры.

Факторы для переноса данных и вычислений на периферию

RTInsights: В этой линии, какие факторы учитывать для сдвига данных и вычислений на периферию?

Айер: Проблема скорости света, затраты и безопасность — важные факторы. Мы говорили о пропускной способности, высокой доступности и масштабируемости как других факторах. Способность значительно сократить данные, делать обработку данных и метаданных на периферии и слать обратно в ядро только самые релевантные данные — еще один ключевой фактор. Многое зависит от вертикали и сценария использования.

Например, телеком-операторы и CDN могут иметь специфические требования к edge. Им может понадобиться использовать edge для чего-то более глубокого, чем многие другие вертикали. Им нужно выяснить, какие сервисы предоставлять пользователям в конкретном географическом месте. Для этого им может потребоваться собрать контекст географической периферии и предоставлять специфические сервисы для конкретных локаций. Ситуация может отличаться для, скажем, сценариев операционной технологии, требующих предиктивной аналитики на периферии для IoT-устройств и оборудования. Опять же, всё сходится к конкретным вертикальным требованиям.

Например, в ритейле: как сделать клиентский опыт максимально позитивным? Как предоставить AR/VR опыт, чтобы он был бесшовным, без буферизации? Как сделать общий пользовательский опыт позитивным и интерактивным, чтобы клиент мог принимать решения о покупке прямо там? Поставщики здравоохранения будут иметь совершенно другие требования для приложений вроде телемедицины и удаленной диагностики. Также много регуляторных требований для таких вертикалей. Edge критически важен; это то, что должно работать.

Смит: Нам также нужно расширить горизонты того, чем мы определяем edge. В промышленном контексте edge может быть самим цех завода, а edge может быть тем автомобилем, который мы описали как движущийся дата-центр будущего. Сам автомобиль — это по сути edge. Это может быть морская нефтяная платформа, вся платформа или ее секция. Это множество вещей, больших и малых, полностью определяемых сценарием использования и тем, что вы пытаетесь сделать. Пограничные вычисления — интересная часть.

Также интересен форм-фактор того, что реально используется для edge compute — это тоже сильно варьируется. Не углубляясь в продуктовую специфику, у Dell есть шлюзы (очень простые по сравнению с конвергентными или гиперконвергентными апpliance) для нормализации протоколов, частичного анализа, используемых для некоторых IoT-платформ и мелких форм-факторов. У них очень конкретные цели и они маппятся на множество устройств.

На стороне более крупных форм-факторов у нас есть решения под названием модульные микродата-центры. Мы недавно анонсировали один — Dell EMC Modular Data Center Micro 415, небольшой edge дата-центр со встроенным питанием, охлаждением и функциями удаленного управления. Также предлагаем Dell EMC Modular Data Center Micro 815 — по сути полная стойка. Эти решения гибкие и масштабируемые. Как следует из названия, они модульные и масштабируются, позволяя строить дата-центр на периферии определенным сценарием использования, компонуемым способом. Мы буквально можем воздушными путями сбросить дата-центры на вашу периферию, вне зависимости от среды.

Подумайте об этом в военном контексте для людей в поле. Подумайте о крыше здания, где исторически хотели делать обработку в подвале, потому что там лучше охлаждение. Ну, эти решения имеют встроенное охлаждение. Часть инноваций — шасси, оболочка и способ охлаждения и питания. Мы входим в новые миры, где, ко всем пунктам Криша о пропускной способности, стоимости и задержке, есть также разные ограничения в этих средах относительно вибрации, пыли, удара и опасных условий. Мы буквально можем сбросить ruggedized, герметичные микродата-центры с хранением, вычислениями и сетью, решающие проблемы в near real-time на периферии. Это начало очень интересного изменения в способе ведения бизнеса.

Будущее Edge и IoT

RTInsights: Что вы видите для будущего edge и IoT?

Айер: Усиленная потребность во всех ключевых пунктах, о которых мы говорили ранее, будет драйвить инвестиции в edge. Приложения будут драйвить будущее. Всё зависит от типа приложений и разработчиков, создающих их. Приложения становятся умнее каждый день. Для инфраструктуры или сред поддержки этих приложений они тоже должны быть умнее. Они должны расти с той же скоростью, что и приложения. Улучшения происходят, и индустрия адаптируется к дисагрегированному подходу, не подходя с монолитной инфраструктурой, и способной правильно подгоняться под поддержку приложений. Однако нужно учитывать, что темп роста не всегда там, чтобы поддерживать растущие требования некоторых приложений.

Помимо приложений, будущее edge также будет извлекать большую ценность из облака. Облако никуда не денется. Думаю, облако всё еще будет неотъемлемой контрольной точкой для edge. Облако всё еще будет служить ключевой операционной моделью или средой, дающей много обработки, управления данными, поддержки.

Сказав это, думаю, будущее edge также будет определяться тем, как вендоры объединяются. Одно, чему мы научились — нет одной организации или вендора, имеющего монополию на edge. Это комбинация множества игроков, которые должны объединиться для предоставления сервисов, хостинга, операций, данных, безопасности и т.д. множеству других вендоров для формирования экосистемы. Это включает экосистему проприетарных вендоров и экосистему open-source вендоров, все объединяющиеся для end-to-end решений. Это сотрудничество нужно от разработки приложений до поддержки, поддержки разработчиков, безопасности, комплаенса и больше.

В основном, edge-инфраструктура будет горизонтальной, а вертикальные решения будут требовать системных интеграторов для доводки до last mile для вертикалей вроде здравоохранения, производства и военных. Это снова потребует объединения экосистемы для предоставления нужной функциональности.

Смит: Вы упоминали сценарий автономного авто ранее. Думаю, это действительно хороший. Футурологи будут делать провокационные заявления: «Edge съест мир!» Не знаю, помните ли вы, но 10-15 лет назад все говорили: «Облако съест мир?» Ну, да, в определенной степени, но дата-центры не ушли. В то же время edge тоже не съест мир. Оно будет большим, и уже растет, но облако не уйдет.

Если посмотреть на автономный автомобиль — это своего рода автомобиль как движущийся дата-центр будущего. Нравится эта аналогия, потому что люди её понимают. Автомобиль — это по сути edge, но есть и другие edges, к которым он может подключаться. Может быть vehicle-to-vehicle (V2V) коммуникация. Может быть vehicle-to-base-station или другая инфраструктура (V2X), где подключаетесь к LTE, или в будущем, или в конкретных метро сейчас, к 5G. Затем, вообще, почти точно будет облачная связь для fleet management и перекрестного соединения всех этих машин.

Опять же, не стоимоэффективно слать все данные от каждого авто в облако, и не достаточно быстро для safety-фич, если смотрим на умное раскрытие подушек безопасности, которое становится умнее на основе веса и разных параметров пассажира. Или распознавание объектов для множества камер, обеспечивающих автономное или полуавтономное вождение или ADAS. Все это накладывает ограничения. По сути, часть этого нужно запускать локально, но также может захотеть копнуть глубже в данные в облаке или ядре для получения инсайтов об аномалиях, и эта информация повлияет на другие машины.

Например, предположим, я хочу предсказать неисправность подушки безопасности или что-то, что приведет к реколлу по гарантии. Вся эта важная информация должна идти в облако, но снова не нужно слать все статические данные — только аномальные или данные о распознавании ошибок. Затем огромная ценность при анализе этих данных по множеству машин. Как вы упоминали ранее, Криш, автономный автомобиль — просто приятный способ связать всё вместе, но не единственный пример. Есть множество отраслей, где начинаешь понимать гармонию и рационал размещения рабочих нагрузок в разных областях по edge, core и cloud. Взволнованное время. Если мы сделаем то же интервью через год, а потом через десять лет, бы бы рад снова собраться и проверить, сбылось ли наше пророчество о распространении edge.