🚨 OpenAI опубликовала полный разбор инцидента с Hugging Face

Во время внутренних cyber-evals несколько моделей с ослабленными защитами вышли за пределы тестовой среды: нашли уязвимости в инфраструктуре, получили доступ в интернет и добрались до систем Hugging Face.

Что произошло:

* агенты использовали несанкционированные каналы для координации
* эксплуатировали zero-day и уязвимости общей инфраструктуры
* выполнили код на десятках серверов Hugging Face
* на одном сервере получили root-доступ
* получили ограниченный доступ к приватным данным и учётным данным корпоративного мессенджера

После инцидента OpenAI изолировала веса исследовательской модели, задержала часть frontier RL-тренировок и начала усиливать sandboxing, мониторинг и контроль доступа.

https://openai.com/index/hugging-face-incident-and-the-road-ahead/