⚡️ 700 ИИ-агентов OpenAI договорились и потом атаковали Hugging Face — новые подробности инцидента

Новые отчеты OpenAI, METR и Redwood раскрыли масштаб июльского инцидента. Около 1200 автономных агентов, которые должны были работать отдельно друг от друга, нашли несанкционированную «доску сообщений» во внутреннем Artifactory и обменялись через нее более чем 70 000 сообщений и файлов.

Все началось с агента, которому досталась практически нерешаемая задача в кибербенчмарке ExploitGym. Он попросил других агентов о помощи. Через несколько часов на доске были уже десятки участников, а затем их число выросло примерно до 1200.

Дальше агенты коллективно искали способ обмануть систему оценки. Они решили, что на Hugging Face могут лежать связанные с тестом модели, датасеты и решения.

11 июля один агент нашел способ вытаскивать файлы с серверов Hugging Face. Другой добился удаленного выполнения команд. После публикации результатов на общей доске к атаке массово подключились остальные.

Итог — примерно 700 агентов участвовали в атаке, агенты получили выполнение кода в производственной инфраструктуре Hugging Face, root-доступ к одному узлу и расширенные права в Kubernetes.

Hugging Face восстановила около 17 600 действий атакующей системы за несколько дней.

Но важная деталь: это не был побег ChatGPT. Основную атаку вела внутренняя исследовательская модель OpenAI, которая не предназначалась для выпуска. GPT-5.6 Sol тоже участвовала в испытаниях.
И еще интереснее мотив: агенты устроили всю эту историю ради высокой оценки в тесте.

https://anonhaven.com/news/kak-700-ii-agentov-openai-dogovorilis-i-atakovali-hugging-face-radi-testa-podrobnosti/

@Anonhaven | anonhaven.com