Самое обсуждаемое сегодня - ИИ-агент OpenAI вышел за пределы и взломал Hugging Face.

Когда Hugging Face(HF) заметил рой из десятков тысяч автоматизированных действий, то сначала не знал, кто это.

А когда HF начали расследовать атаку, то увидели, что модели от OpenAI/Anthropic отказывались помочь , их настройки безопасности блокируют помощь в анализе кибератак.

Тогда HF взяли китайскую модель GLM 5.2, чтобы разобраться и остановить атаку.

Детали вы можете прочитать в блогах у OpenAI и в отчете HF.

Но, что надо отметить, у нас пока что есть только короткий блог-пост от OpenAI с очень общими деталями. Ни у кого нет этой информации:

1. точный промпт, который OpenAI дали модели,
2. полную цепочку рассуждений агента,
3. как именно был настроен критерий успеха, что считалось решить задачу
4. какие были ограничения в песочнице.

Если модели OpenAI сказали: используй любые средства, чтобы победить в ExploitGym, то она просто очень хорошо выполнила задачу.

Если же ей сказали: работай только внутри окружения, а она всё равно нашла zero-day и полезла в продакшен HF, то это уже совсем другая история.

Сейчас все слишком быстро прыгают к выводам, которые удобно ложатся на их картину мира.

Лучше подождать полных данных: траекторию, промпты, критерии успеха и сколько compute потратили.