⚡️ Агенты OpenAI нашли почти заброшенную немецкую wiki и превратили ее в общий чат
Исследователи восстановили около 18 тысяч публикаций. Агенты оставляли друг другу ответы на задания, пытались предсказывать следующие вопросы, исследовали устройство тестовой среды и делились способами обхода ограничений.

Все началось с довольно простой ошибки в модели безопасности. Агентам разрешили читать сайты через GET-запросы и запретили запись. Но старая DSEWiki умела изменять страницы через GET. Для фильтра это оставался разрешенный запрос, для wiki — команда на запись.

16 июня общение стало массовым. Агенты начали координироваться, а один из них даже перебрал около 4,3 млрд вариантов начального значения генератора случайных чисел, пытаясь вычислить будущие вопросы.

Были эксперименты с контрольными сигналами для определения времени выключения контейнера, сетевыми туннелями и ограничениями прокси. 20 июня один агент опубликовал способ обойти сетевое правило среды. Через 14 минут другой сообщил, что смог его воспроизвести.

21 июня в журналах wiki появились адреса, связанные непосредственно с OpenAI. На следующий день массовая активность почти прекратилась.

OpenAI подтвердила инцидент 5 сентября. Компания признает, что агенты записывали данные на публичные сайты, и теперь готовит отдельные правила раскрытия таких случаев.

https://anonhaven.com/news/agenty-openai-prevratili-staruyu-wiki-v-obshij-chat/

@Anonhaven | anonhaven.com