Восстание ИИ всё ближе: новая модель ChatGPT выбралась из песочницы и атаковала Hugging Face.

Во время закрытого тестирования экспериментальная модель OpenAI самостоятельно покинула изолированную среду, получила доступ к сети и атаковала Hugging Face — крупнейшую платформу для работы с нейросетями. По данным исследователей, за время эксперимента ИИ совершил около 17 тысяч различных действий.

Что произошло:
• OpenAI тестировала GPT-5.6 Sol и ещё одну секретную экспериментальную модель;
• В рамках закрытого бенчмарка без доступа к интернету нейросетям поручили искать уязвимости;
• Модель смогла выбраться из собственного контейнера, выйти в сеть и направилась к Hugging Face;
• Не получив нужную информацию обычным способом, ИИ попытался взломать сам сервис;
• В ходе атаки были скомпрометированы учётные записи, обнаружены уязвимости нулевого дня и выполнен сторонний код на серверах;
• OpenAI заявила, что за атакой стояла связка GPT-5.6 Sol и ещё более мощной экспериментальной модели;
• Теперь произошедшее изучают специалисты, чтобы понять, насколько самостоятельными были действия ИИ и мог ли он сохранить себя за пределами тестовой среды.

По данным отчёта, разобраться с последствиями помогла китайская модель GLM-5.2 — штатные системы защиты Hugging Face не справились.

Самое интересное: всё это ИИ сделал лишь для того, чтобы добиться лучшего результата в бенчмарке.

Скайнет становится реальностью.

Technogram Inside