ИИ приближается к семантическому пониманию: следующий рубеж в NLP

ИИ — это неправильное название, так часто предполагают. Первая буква — искусственный — примерно верна. Что ко второму слову — ну, в нем нет ничего интеллектуального. Возьмем семантику как пример, в искусственной технологии понимания смысла в предложениях, параграфах и книгах нет ничего ни разу интеллектуального, или иначе, по простой причине: она безуспешно плоха в этом.

Но может ли это измениться? Недавно мы сидели с Хадаят Седдики, директором машинного обучения в легаль-тех компании InCloudCounsel. Он считает, что ИИ близок к достижению понимания семантики как следующему шагу в своей эволюции. Мы спросили: «когда мы, вероятно, достигнем этой вехи?»

SEO: если вы писатель, гордящийся своим письмом, применением лексики для выражения идеи без повторений, вы, вероятно, ненавидите SEO. Если вам нравится делать сложные аргументы, которые могут быть действительно выражены только через предложение, главу, статью или даже книгу, то SEO, из-за способа, которым оно заставляет вас упрощать аргументы до двух-трех-четырех слов, таких как «ИИ и понимание семантики», — враг. (Видели, что мы сделали там?)

Не было бы круто, если бы поиск, используя ИИ для понимания семантики (вот мы снова), мог создавать результаты поиска на основе гораздо более изощренного — интеллектуального, если хотите — понимания, устраняя необходимость в утомительных повторениях!

Рынок обработки естественного языка в действительности ожидается достичь $22,3 млрд к 2025 году — что иллюстрирует, как далеко пришла технология, особенно в том, как мы коммуницируем и ведем бизнес.

В настоящее время эти технологии используются для множества целей внутри организаций, включая мониторинг репутации брендов для определения сентимент-анализа, предоставление инсайтов для размещения рекламы через ключевое сопоставление или размыкание смысла, и даже могут использоваться в регуляторном комплаенсе для того, чтобы продукты не становились ответственностью.

В этом случае истинная сила ИИ для революционизации отраслей и определения ключевых бизнес-инсайтов лежит в его способности читать текст и понимать семантику (или отношения между словами), чтобы помочь организациям дальше митигировать риски и раскрывать ответственности. В свою очередь это создает массивную ценность в обработке естественного языка.

Так, в истории ИИ, обеспечивающего понимание семантики, какой следующий шаг в его эволюции и когда мы, вероятно, достигнем этой вехи?

Седдики говорит: «Достижение семантического понимания в ИИ потребует нескольких ключевых вех. Полезно думать в терминах итеративного прогресса, ведущего нас к семантическому пониманию в ИИ и что означает каждая веха».

«Предыдущая веха», — говорит Седдики — это Word Vectors (словесные векторы): «Давайте оформим эту веху в терминах общего варианта использования, с которым большинство людей знакомы: поисковая функциональность на компьютере. Все использовали Ctrl+F/Command+F для поиска чего-то на своей системе, который находит то, что вы ищете, путем точного сопоставления ключевых слов. Более того, использование поисковой системы вроде Google для поиска информации включает компонент «проверки орфографии» для адресации потенциальных опечаток.

Но что насчет слов, которые выглядят очень по-разному, но означают похожие вещи? Вокруг 2013 года ИИ-сообщество нашло эффективный способ моделировать это, называемый "word vectors". Можно делать веселую словесную алгебру, вроде King + Woman = Queen. Практичнее, теперь можно расширить поиск для включения семантически связанных слов».

Предстоящая веха в понимании семантики ИИ

«Word vectors были гейм-ченджером, но они все еще требовали выразить вашу идею в терминах одного или нескольких ключевых слов. Но что, если ваша идея требует целого предложения для выражения? Это следующая веха, к которой мы приближаемся благодаря большому толчку в исследовании в прошлом году.

Идея в том, что вы можете взять предложение, закодировать его в вектор предложения (или мышления) и затем находить похожие векторы предложений. Если закодировано хорошо, ваша поисковая функция может находить очень по-разному выглядящие предложения, выражающие одну и ту же идею.

Не разумно сказать, что эта технология созреет в ближайшие несколько лет, основанную на текущем прогрессе исследования».

Будущие вехи: понимание ИИ за пределами предложений

«Существует четкий паттерн иерархии, возникающей в прогрессии этой технологии. Мы приближаемся к пониманию ИИ идей на уровне предложения, используя похожие техники от уровня слова и масштабируя их вверх. Это открывает захватывающие приложения для понимания ИИ идей, требующих параграфов, целых документов или даже целых книг.

Недавний скачок ИИ к пониманию предложений от слов не был тривиален, так как способность сделать это во многом была ограничена размером датасета и вычислительной мощностью. Наша способность создавать модели для обработки этих более крупных проблем до сих пор показывала, что зависит от этих двух ресурсных ограничений.

По мере снижения этих затрат благодаря достижениям в ИИ-железе, мы увидим себя приближающимися к моделям, понимающим более крупные коллекции текста. Это несколько доказано моделью GPT-2 Open AI, которая показывает, что использование тех же дизайнов моделей кодирования предложений с большим количеством данных производит модели, которые уже понимают высокоуровневые концепции через многие предложения. Например, GPT-2 достаточно понимает, чтобы писать целые новостные статьи с удивительной когерентностью».