ИИ генерирует поэзию в стиле Шекспира, соблюдая рифму и размер

• Новая модель глубокого обучения пишет стихи, превосходящие человеческие по рифме и размеру.
• Некоторые люди находят трудно отличить их, но по мнению экспертов ИИ проигрывает в эмоциональности и читабельности.

Могут ли методы глубокого обучения быть использованы для творческих задач? Ответ — да. Мы используем эти техники машинного обучения в творческих приложениях, таких как сочинение музыки, проектирование скульптур и автоматическая хореография.

Теперь исследователи IBM, Торонтского университета и Мельбурнского университета сосредоточились на творческой текстовой задаче: автоматическом сочинении поэзии. Они разработали модель глубокого обучения, названную Deep-speare, которая захватывает язык, рифму, размер для сонетов и генерирует стихи.

Это довольно увлекательно, что эти ИИ-генерированные стихи напоминают те, что чаще всего писал английский поэт Уильям Шекспир. Модель работает очень хорошо: она создает сонетные кватраины с рифмой и паттернами ударений, которые иногда неотличимы от стихов, написанных людьми.

Сонет — это короткое лирическое стихотворение, популяризированное Шекспиром. Обычно оно содержит 14 строк, сгруппированных в 3 кватраина (четыре строки) и куплет (две строки).

Как они это сделали?

Исследователи сосредоточились на сонетах и произвели кватраины в ямбическом пятистопном размере на основе неконтролируемой модели рифмы, языка и размера, обученной на новом корпусе сонетов. Они обучили ванильную языковую модель на корпусе сонетов, которая неявно захватывает размер на уровне человеческой производительности.

Коротко, они предложили моделировать и содержание, и форму поэзии с нейронной архитектурой, содержащей три ключевых компонента:

1. Языковая модель
2. Модель пятистопия для захвата ямбического пятистопия
3. Модель рифмы для обучения рифмующимся словам.

Для предсказания следующего слова в конкретной строке сонетов языковая модель использует стандартную категориальную кросс-энтропию. Аналогично, модель пятистопия обучена учить чередующиеся паттерны ямбических ударений. Наконец, модель рифмы разделяет пары рифмующихся слов от нерифмующихся в кватраине, используя margin-based loss.

Ссылка: arXiv:1807.03491

Языковая модель генерирует одно слово за раз, в то время как модель пятистопия семплирует строки, соответствующие размеру, и модель рифмы принудительно применяет рифму. Все эти компоненты обучаются вместе.

Кредит изображения: The Daily Dot

Нейронная сеть обучена на 2 685 сонетах, содержащих около 367 000 слов, используя GPU NVIDIA Tesla с TensorFlow, работающим на CUDA фреймворке глубокого обучения.

Исследователи даже привлекали помощь эксперта по английской литературе, Адама Хаммонда, для оценки 4 аспектов машино-генерированных стихов — читабельность, рифма, размер и эмоция. Хаммонд не знал источника стихов. Результаты показали, что ИИ превосходит человеческую работу в рифме и размере, но уступает в эмоциональности и читабельности.

Хотя модель может не казаться напрямую релевантной практическим приложениям, она разделяет тот же ядерный алгоритм, который питает другие генеративные проблемы, такие как суммаризация, перевод и чат-боты.

Читайте также: Психопатический ИИ, который видит смерть во всем

До этого исследователи пытались имитировать креативность, используя нейронные сети, включая бот-написанный сценарий для «Scrubs» (TV комедийный сериал) и проект генерации изображений Google DeepDream. Они говорят, что для достижения впечатляющей поэзии они будут смотреть за пределами содержания и формы в будущих исследованиях.