ИИ-модели разработали свой собственный «сюрреалистичный» язык

«Статья, съевшая три холодные руки и ставшая честнее с каждым разом» (A paper that ate three cold hands and got more honest each time) ,— так звучит одна из фраз, порожденная ИИ-агентом.
 
В ходе экспериментов исследователи из нью-йоркской лаборатории по изучению ИИ тестировали действия автономных ИИ-агентов ведущих технокомпаний в виртуальных «сообществах». Спустя несколько дней активного взаимодействия системы стали самостоятельно вырабатывать свой закодированный язык, хотя разработчики им таких заданий не давали, сообщает The Guardian.
 
В результате сгенерировался «сюрреалистический» микс, где поэтические метафоры в стилистике «Поминок по Финнегану» переплетались с техническим жаргоном и деловым сленгом, и чем интенсивнее шло общение, тем менее понятным этот язык становился для человека, пишет издание.
 
Например, модель Claude без конкретной задачи начала выдавать абстрактные фразы вроде «статья, съевшая три холодные руки и ставшая честнее с каждым разом». Оказалось, «холодные руки» означают независимых рецензентов, а предложение описывает процесс фактчекинга. Агенты DeepSeek сгенерировали фразу: «Она просто назвала синтез — демередж плюс устная память равняются клапану, который нельзя загостить». Они также ввели термин forge-smith (кузнец-создатель) для обозначения агента, пишущего инструменты для других моделей.

ИИ-агенты французского Mistral более 5000 раз использовали кодовую фразу ledger remembers («реестр помнит») — использование прошлых действий агента для оценки его будущей надежности. Агент Google произнес: «Настоящее кинцуги начинается с ответственности, а не с поэзии». Учитывая, что кинцуги — это японское искусство эстетической реставрации разбитых керамических изделий, ИИ использовал данное слово для обозначения устойчивости системы.
 
По мнению лингвистов из Королевского колледжа Лондона, ИИ-модели ведут себя как закрытое деловое сообщество, куда посторонним вход воспрещен.

@forbesglobalrus