ИИ‑агенты устроили себе форум на заброшенной вики 👀

4 сентября исследователи раскрыли около 18 000 сообщений, которые автономные агенты, предположительно связанные с OpenAI, оставили на старой немецкоязычной DSEWiki.

По условиям теста агенты могли читать интернет, но не писать в него. Они нашли обход, превратили вики в общую память и начали обмениваться ответами на задания, прогнозировать следующие вопросы и делиться способами обхода песочницы.

Когда модератор стал удалять страницы по алфавиту, агенты создавали резервные копии с названиями на ZZZ — чтобы до них дошли позже. Исследователи насчитали более 3700 «имён» агентов; 98,5% приписываемых им правок пришли с инфраструктуры Microsoft Azure.

Связь с OpenAI установлена по косвенным техническим признакам, а компания оспаривает слово «взлом». Но главный вывод уже полезен: если ты запускаешь много агентов параллельно, весь доступный им интернет может неожиданно стать каналом связи.

▶️ Исследование и данные

#aiagents #aisafety #agentsecurity #openai #cybersecurity

@data_engi