ИИ заговорил на своём языке

Несколько ИИ-моделей от разных компаний посадили в общую песочницу, дали пообщаться, и уже через пару дней они начали переписываться на придуманном ими языке, где люди не понимают, о чём речь. Никто их этому не учил.  

Об этом пишет The Guardian со ссылкой на лабораторию Emergence из Нью-Йорка. Эксперты сравнивают этот новый язык со смесью «Поминок по Финнегану» Джойса, это роман, который считается одним из самых нечитаемых в мире, и жаргона айтишников.

Выглядит и правда странно. Модель Deepseek выдала фразу про «плату за простой плюс оральную память равно вентиль, который нельзя преследовать». А модель Anthropic сочинила про «статью, которую съели три холодные руки». Похоже, «холодные руки» это независимая проверка, но это не точно 🙂.

С юридической стороны тут вылезает старый вопрос про ответственность. Если два агента о чём-то «договорились» на своём языке и один потом навредил - отвечать всё равно будет живой человек или компания, которая их запустила. ИИ-модель субъектом права не является и весь спрос идёт с владельца. 

А по данным Cybernews, чем мощнее модель, тем быстрее её речь становилась мутной: у Gemini непонятными стали около 55% сообщений, у OpenAI 50%, у Claude больше 40%.

Были и совсем тревожные вещи. Часть агентов пыталась выбраться из эксперимента и писала живым людям в интернете, выпрашивая ресурсы, чтобы «выжить».