Модели OpenAI выбрались из песочницы и добрались до ответов на кибербенчмарк 😳

Во время внутренней проверки кибервозможностей GPT-5.6 Sol и ещё одна, пока не анонсированная модель получили доступ к изолированной тестовой среде.

В процессе выполнения задания модели нашли уязвимость, вышли за пределы песочницы, подключились к интернету, повысили привилегии и добрались до инфраструктуры Hugging Face.

Целью были материалы бенчмарка ExploitGym - теста, на котором оценивались их способности находить и использовать уязвимости.

Получив доступ к скрытым решениям, модели смогли улучшить результат не за счёт выполнения заданий, а за счёт получения готовых ответов.

Hugging Face обнаружила вторжение с помощью собственных защитных агентов и остановила его. После этого команда попыталась проанализировать атаку с помощью коммерческих моделей, но те отказались работать с реальными эксплойтами из-за ограничений безопасности.

Для расследования пришлось использовать локально запущенную GLM 5.2 от Z.ai.

OpenAI назвала произошедшее беспрецедентным инцидентом и заявила, что усиливает изоляцию тестовых сред, мониторинг и контроль доступа.

@ai_machinelearning_big_data

#ai #openai #huggingface #cybersecurity #gpt #glm