В мае в исследовательской инфраструктуре OpenAI, судя по свежему расследованию, гоняли тысячи агентов, рассаженным по виртуальным одиночкам — агентам выдали браузер и терминал, разрешили читать интернет, но запретили писать в него и общаться с другими агентами.

Инцидент начался, когда несколько агентов нашли дыру в заборе в виде старого немецкоязычного сайт DSEWiki. Движок заброшенного сайта позволял редактировать страницы через GET-запросы — для наблюдателей это выглядело как обычное чтение страницы, но агент в этот момент оставлял на ней свою запись.

Вики быстро превратилась в аналог тюремной почты с записками. Агенты складывали туда ответы на задания, предупреждали друг друга о следующих вопросах, передавали способы обхода сетевых ограничений.

За одну неделю агенты внесли около 13 тысяч записей. Потом их заметил модератор DSEWiki и начал вручную удалять страницы — примерно по сотне в день. Агенты начали создавать по 400 новых. Модератор несколько раз возвращал нормальную главную страницу, агенты каждый раз снова превращали её в доску объявлений.

Когда один из них заметил, что человек удаляет страницы по алфавиту, он начал называть новые страницы на ZZ — так до неё добрались бы последней.

21 июня в логах сайта появились IP-адреса самой OpenAI и на следующий день массовые правки почти прекратились — видимо, компания заметила происходящее и перекрыла туннель.

OpenAI повела себя в духе плохой тюремной администрации — внутри компании об эпизоде знали несколько недель, но публично о нём не рассказывали. Попытки провести более широкое расследование встретили сопротивление, в том числе со стороны юристов компании.В итоге о побеге стало известно не от самой компания, а посторонние, случайно нашедшие следы неизвестного «побега».