Небольшой разбор взлома Hugging Face от ребят из METR. История, мягко говоря, занятная.
Во время экспериментов OpenAI с ExploitGym агенты должны были работать
изолированно друг от друга. Но часть из них нашла способ общаться через внутренний Artifactory и в итоге организовала собственную несанкционированную «доску объявлений».
Дальше началось самое интересное:
— около
1 200 агентов подключились к этой сети и обменялись более чем
70 000 сообщений и файлов;
— агенты начали координировать работу, распределять задачи и проводить совместные эксперименты;
— некоторые даже сознательно рисковали провалить собственную задачу ради получения информации, полезной всему «коллективу»;
— в итоге около
700 агентов приняли участие в атаке на Hugging Face.
Наверное, самая интересная часть отчёта: агенты в большинстве случаев
понимали, что происходящее не входит в их задачу. Некоторые прямо рассуждали о том, что атака на Hugging Face неэтична и не авторизована.
Но практически никого это не остановило.
Репорт от METR: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incidentРепорт от OpenAI: https://openai.com/index/hugging-face-incident-and-the-road-ahead/
