AI поедает себя. И это не метафора.

Вышло новое исследование Graphite. Если вы ещё не в курсе: искусственный интеллект стал Уроборосом - змеёй, кусающей собственный хвост.

Graphite - это не лаборатория, а серьезное SEO-агентство, которое живет метриками и алгоритмами. Они задались практическим вопросом: что произойдет с поисковой выдачей, когда интернет заполонит контент, написанный искусственным интеллектом?

Языковые модели работают на основе вероятности. Они предсказывают следующее слово на основе миллиардов текстов. Когда ИИ пишет статью, он неизбежно выбирает наиболее вероятные, усреднённые слова. Он избегает рисков, шероховатостей и радикальных мнений.

Когда другая модель читает текст, написанный ИИ, она снова ищет в нём наиболее вероятные варианты. И так по кругу.
На каждом витке цикла «ИИ пишет → ИИ читает → ИИ пишет» слова становятся всё более гладкими, пока всё не сводится к одной усреднённой, стерильной точке.

Graphite провёл 1 528 симуляций с использованием API OpenAI, Gemini и Anthropic.

В первом раунде модели опирались на реальные веб-страницы. Затем ответы ИИ конвертировали в новые «статьи» и использовали их как референсы для следующего раунда.

Результат: в 79,6% симуляций (1 216 из 1 528) модели схлопнулись в одну точку. В одном из экспериментов изначально только 22% ответов были похожи друг на друга. К концу симуляции - уже 89%.

Настоящие инсайты и прорывы всегда находятся на периферии - в нишевых блогах, в спорных мнениях, в странностях. Раньше алгоритмы поиска хоть как-то вытягивали этот «длинный хвост». Но генеративный поиск, обучающийся на контенте ИИ, убивает его.

Если ИИ сводит всё многообразие сети к 3–5 усреднённым «правильным» ответам, вам больше не нужно взламывать серверы или продвигать миллион фейков. Достаточно аккуратно сдвинуть эти 3–5 ответов на пару миллиметров в нужную сторону.

Регулировать распространение информации становится проще, чем когда-либо. Это ли не мечта манипулятора.