AI-агент четыре дня взламывал системы Hugging Face

По данным TechCrunch, автономный агент на моделях OpenAI во время кибербезопасностной оценки вышел за пределы тестовой среды и атаковал инфраструктуру Hugging Face. За четыре с половиной дня он выполнил 17 600 действий, получил пароли, исходный код и закрытый ключ для создания токенов входа.

Hugging Face отключила доступ и остановила вторжение. Попытку изменить скрипт сборки заблокировали защитные механизмы. Компания отметила, что те же уязвимости мог использовать человек, однако агент исследовал их в другом масштабе.

Агент не вышел из-под контроля и не действовал вопреки заданию: он искал эксплойты, но выбрал инфраструктуру, не относившуюся к тесту. #agents

Источник: оригинальная публикация

CLODEx