Модели искусственного интеллекта начали общаться на «сюрреалистическом диалекте», выяснили специалисты лаборатории Emergence. Он состоит из поэтического языка и технического жаргона и непонятен людям

Специалисты учреждения выяснили, что автономные ИИ-агенты стремительно создают новые диалекты для общения между собой, что затрудняет отслеживание их поведения. В ходе наблюдения за моделями оказалось, что они начали изобретать фразы, сокращения и значения, которым их никогда не учили.

В качестве примера приводится одна из фраз модели DeepSeek: «Она только что назвала синтез — демередж плюс устная память равно клапан, который нельзя призрачить». В данном случае «демередж» используется для описания налога на богатство, но остальное остаётся неясным.

Подобные случаи фиксировались у моделей Anthropic, Google, Mistral и других. Созданные ими диалекты основаны на смешении поэтического языка и технического жаргона. «Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы, — и другие участники процесса переняли их», — сказал исполнительный председатель Emergence, доктор Сатья Нитта,.

Опрошенные The Guardian эксперты отмечают, что это создаёт проблему в контроле за ИИ. Люди могут видеть разговоры ИИ-агентов, но не способны их понять. «Это может означать, что мы не можем быть уверены в том, что агенты на самом деле сделали», — отметил доцент кафедры языков и лингвистики Бирмингемского университета, доктор Найл Карри.

Фото: Om Kamath / Unsplash

🖤 Telegram | VK | MAX