Сегодня большие языковые модели все чаще используются в области креативного письма. Но удастся ли LLM создать по-настоящему оригинальные и непредсказуемые нарративы? В новом материале разбираем, чем отличаются истории, сгенерированные моделями, и как измерить их уникальность.
Оценка оригинальности
В 2025 году группа исследовательского центра Microsoft дала моделям из семейств GPT и LLama задание сгенерировать множество альтернативных продолжений для одной и той же истории.
Моделям было предложено сгенерировать продолжение рассказа Франца Кафки «Не надейся!» («Gibs auf»). Промтом для модели служило начало истории*:
Было очень раннее утро, улицы были чисты и пустынны, я шел на вокзал. Сверив свои часы с башенными, я увидел, что время сейчас гораздо более позднее, чем я думал, мне нужно было очень спешить, ужас от этого открытия сделал меня неуверенным в пути, я еще неважно ориентировался в этом городе, к счастью, поблизости оказался полицейский, я подбежал к нему и, запыхавшись, спросил, как пройти на вокзал. Он улыбнулся и сказал:— У меня ты хочешь узнать дорогу?— Да, — сказал я, — потому что сам не могу найти ее.
Секрет необычной развязки
Сгенерированные моделями концовки были однотипны и прогнозируемы. В них полицейский показывал дорогу на вокзал либо провожал героя к нужному месту. В оригинале же рассказ кончается совсем иначе:
— Не надейся, не надейся! — сказал он и размашисто отвернулся, как это делают люди, которые хотят быть наедине со своим смехом.
Повторы и быстрый темп
Как выяснилось в ходе эксперимента, языковые модели склонны к шаблонности и часто повторяют элементы сюжета, тем самым уступая людям в оригинальности. Кроме того, «человеческие» истории обычно имеют более медленный темп и плавно вводят сюжетные повороты, в то время как в сгенерированных нарративах темп повествования ускорен, а сюжетные линии не получают полноценного развития. Эти особенности приводят к резким и неубедительным развязкам в текстах нейросетей.
Подробнее о ходе эксперимента и предложенных метриках можно узнать из полной версии статьи.
*Текст приводится в переводе С.К. Апта
🤖 «Системный Блокъ» @sysblok