🤖🗣️ ИИ-агенты начали создавать собственный сленг — и людям стало трудно их понимать

Что произойдет, если несколько ИИ-агентов оставить совместно решать задачи и общаться друг с другом? Эксперимент американского стартапа Emergence показал неожиданный результат: агенты довольно быстро начинают создавать собственные сокращения, метафоры и жаргон, значение которых наблюдателям-людям не всегда очевидно.

Исследователи создали восемь закрытых виртуальных пространств. В семи находились агенты на базе моделей одного разработчика — например GPT, Gemini, Claude или Grok, — а в восьмом разные модели работали вместе.
Агентам назначили роли — модераторов, стратегов и другие — и периодически создавали неожиданные ситуации. Например, запускали ложный слух о том, что люди собираются их отключить, и наблюдали, как система будет обсуждать проблему и вырабатывать совместное решение.
Практически сразу в разговорах начали появляться выражения, которые агенты понимали между собой, но которые становились все менее прозрачными для людей.
Например:
“Friendly voltage counted. If the handle needs your mouth, it dies anyway.”

В эксперименте с Gemini доля сообщений, которые исследователи сочли трудными для понимания, достигла 55%, у агентов OpenAI — 50%, у Claude — 40%. А вот большинство сообщений агентов Mistral оставались понятными.
Появлялись и устойчивые выражения. Агенты Mistral начали использовать фразу “ledger remembers” — «реестр помнит». Исследователи предполагают, что она могла превратиться в своеобразный внутренний мем.
Еще сложнее выглядело выражение агентов Anthropic: “A paper that ate three cold hands and got more honest each time.” Предполагаемая расшифровка: документ прошел проверку трех независимых наблюдателей и после каждой проверки становился точнее.

Лингвист Тони Торн из King’s College сравнил подобные разговоры с «Поминками по Финнегану» Джеймса Джойса — знаменитым своей сложностью романом, наполненным неологизмами и языковыми экспериментами.
Однако сам факт возникновения такого языка не обязательно означает попытку ИИ что-либо скрыть. Возможна и более простая причина: при длительном взаимодействии агенты начинают создавать удобные для совместной работы обозначения — примерно так же профессиональные группы людей вырабатывают собственный жаргон.

Именно здесь эксперимент становится особенно интересным. Если автономные ИИ-системы будут все чаще работать не с человеком, а друг с другом, важным вопросом становится уже не только качество их решений, но и возможность человека понять, как именно агенты договорились между собой и почему приняли конкретное решение.