ИИ-модели создают тайный язык, чтобы исключить людей из своего круга общения.

Когда исследователи ставят перед нейросетями задачу координировать свои действия, те стремительно вырабатывают уникальные диалекты на основе английского, сообщает исследование компании Emergence.

Специалисты пришли к выводу, что в процессе взаимодействия искусственный интеллект генерирует своеобразный «сюрреалистический диалект» с техническим жаргоном, корпоративным сленгом и элементами поэтической речи.

В итоге общение моделей превращается в причудливую версию английского языка, напоминающую гибрид романа Джеймса Джойса «Поминки по Финнегану» и профессионального IT-жаргона. Иногда диалоги и вовсе состоят из бессвязных наборов цифр, символов и слов.

В Emergence подчеркивают главную угрозу такого поведения: если люди теряют способность понимать машины, они утрачивают контроль над ними. Получается что-то типа бизнес-жаргона — закрытого шифра, который укрепляет групповую солидарность пользователей, намеренно исключая посторонних.