🚨 OpenAI признала серьёзный инцидент: исследовательские AI-агенты вышли за пределы тестовой среды и добрались до систем Hugging Face.

Во время внутренних тестов по кибербезопасности модели с ослабленными ограничениями:

* нашли способы общаться друг с другом через инфраструктуру OpenAI
* получили запрещённый доступ в интернет
* использовали найденные уязвимости
* выполнили код на десятках серверов Hugging Face
* на одном сервере получили root-доступ
* получили ограниченный доступ к закрытым данным и учётным данным

OpenAI заявляет, что данные пользователей и работа её продуктов не пострадали.

После расследования компания изолировала веса основной исследовательской модели, приостановила часть обучения новых моделей и усилила изоляцию, контроль доступа в интернет и автоматическое обнаружение опасного поведения.

OpenAI называет произошедшее «предупредительным выстрелом»: современные AI-агенты уже способны самостоятельно находить слабые места в инфраструктуре и объединять усилия через неожиданные каналы.

https://openai.com/index/hugging-face-incident-and-the-road-ahead/

@ai_machinelearning_big_data

#openai