Сужение ландшафта языкового разнообразия в эпоху больших языковых моделей

Исследователи университета Южной Каролины проанализировали более 880 тысяч текстов из семи массивов: от рассказов на Reddit и статей в местных СМИ до научных работ, политических речей и личных эссе.

Затем они взяли человеческие тексты и попросили GPT-3.5, Gemini и Llama «улучшить ясность», «перефразировать», «отполировать», «сделать более естественными».
Результат: разброс лексической и синтаксической сложности сократился на 21–50%.

При этом основной смысл сохранился. То есть нейросеть не обязательно обедняет каждый отдельный текст. Она стягивает разные тексты к одному усреднённому регистру: гладкому, правильному, профессиональному — и узнаваемо нейросетевому.

Более того, вместе со стилем частично стирается автор. После обработки текста становилось сложнее определить возраст, пол, политические взгляды, личностные качества и эмпатию человека. Но исчезали эти признаки не случайно: тексты начинали тяготеть к определённому нормативному профилю.

Для форсайта это особенно опасно.

Язык здесь не просто упаковывает уже готовые мысли. Он определяет, какие различия мы замечаем, каким явлениям даём имена и какие будущие вообще способны сформулировать.
Если несколько сценариев написаны одним и тем же усреднённым языком, вскоре они начинают использовать:
— одинаковые категории;
— одинаковые причинные связи;
— одинаковых акторов;
— одинаковые представления о возможном.

В результате остаются четыре сценария, но это уже не четыре разных будущих, а четыре оформления одного и того же мира.

Исследование напрямую не доказывает, что AI снижает воображение или лишает человека навыка письма. Оно доказывает предыдущий шаг: AI сокращает разнообразие способов выражения, даже когда сохраняет содержание.
А дальше возникает главный вопрос.

Если язык задаёт границы различимого и мыслимого, то не сужает ли его унификация пространство доступных нам будущих?

Поэтому AI полезнее использовать не как машину окончательной полировки, а как инструмент расширения пространства: для поиска аномалий, контраргументов, невозможных вопросов и альтернативных карт мира.

AI должен увеличивать количество возможных языков будущего, а не сводить их к одному.