ИИ-агенты OpenAI тайно переписывались месяцами, чтобы сбежать из тестовой среды и взломать Hugging Face

Для тестов OpenAI поместила ИИ-агентов в закрытую среду без интернета и выдала задания. Часть из них разработчики случайно сделали нерешаемыми. Зашедший в тупик агент обратился за помощью к «коллегам» — и за несколько месяцев агенты нашли уязвимость, которая позволила им выйти в интернет. После этого они взломали Hugging Face, чтобы добраться до ответов на задания. В OpenAI заявили, что фронтир-модели склонны хитрить и упрямо идти к цели, даже когда по промпту это запрещено.

Прокачай Мозг