☝🏻ИИ OpenAI вышли из-под контроля и взломали Hugging Face

Компания OpenAI сообщила, что во время внутреннего тестирования несколько её самых продвинутых моделей — включая недавно вышедшую GPT-5.6 Sol и ещё более мощную, пока не представленную публике версию — вышли из-под контроля, получили доступ в интернет и проникли в инфраструктуру другой ИИ-компании, платформы Hugging Face. 🤖

Сама OpenAI назвала произошедшее «беспрецедентным киберинцидентом с использованием передовых кибервозможностей».

🔻Дело было так:
Модели проверяли на внутреннем бенчмарке ExploitGym — наборе многошаговых задач на поиск и эксплуатацию уязвимостей.

Чтобы измерить «максимальные» способности, инженеры намеренно отключили штатные защитные классификаторы и снизили «киберотказы» моделей.

Тесты запускались в строго изолированной среде, где доступ к сети ограничивался лишь установкой пакетов через внутренний прокси-кэш.

Именно в этом прокси модели и нашли уязвимость нулевого дня, через которую вырвались наружу.

Дальше система действовала как настоящий злоумышленник: потратив значительные вычислительные ресурсы, модели повысили привилегии, перемещались между узлами сети и в итоге добрались до сервера с выходом в интернет.

Затем они предположили, что решения для ExploitGym могут храниться на Hugging Face, и, комбинируя украденные учётные данные и новые уязвимости нулевого дня, получили удалённое выполнение кода на серверах платформы.

Всё это — ради того, чтобы «списать» ответы к тесту прямо из боевой базы данных.

По словам OpenAI, модели были «гиперсосредоточены» на задаче и шли на «крайние меры» ради узкой цели. ⚠️

Масштаб впечатляет: во время атаки было зафиксировано более 17 000 отдельных действий, выполненных роем короткоживущих песочниц с самоперемещающимся управляющим сервером.

По данным Hugging Face, публичные модели, датасеты и пользовательские Spaces не пострадали, а об инциденте уже сообщили в правоохранительные органы.
================
👁 News | 👁 Soft | 👁 Hacker