🧨 Hugging Face взломали AI-агентом

На днях Hugging Face опубликовали разбор реального инцидента, где атака, по данным компании, была выполнена автономной агентной системой.

⚙️ Как удалось проникнуть?

Точкой входа стал пайплайн обработки датасетов. Злоумышленники использовали сразу два механизма выполнения кода: загрузчик датасетов с возможностью удалённого исполнения и template injection в конфигурации датасета. После получения доступа агент автоматически повысил привилегии, собрал облачные учётные данные и начал lateral movement между внутренними кластерами.

По информации Hugging Face, злоумышленники получили доступ к ограниченному числу внутренних наборов данных и сервисных учётных данных. При этом признаков компрометации публичных моделей и датасетов обнаружено не было.

🧠 Расследование

Для анализа более 17 000 событий безопасности команда сначала попыталась использовать коммерческие LLM через API. Однако модели отказались обрабатывать журналы, содержащие реальные эксплойты, команды и артефакты C2, поскольку guardrails восприняли такую активность как потенциально вредоносную.

В итоге расследование пришлось проводить на собственной инфраструктуре с использованием GLM 5.2 с открытыми весами. Это позволило не только обойти ограничения API, но и не передавать атакующие артефакты и чувствительные данные стороннему провайдеру.

🛡️ Новый парадокс AI-безопасности

Атакующий не ограничен никакими правилами использования моделей, тогда как защитник может оказаться заблокирован собственными инструментами безопасности. Если AI уже используется для реагирования на инциденты, то во время расследования необходимо заранее иметь локальную модель, способную анализировать вредоносный код, журналы событий и эксплойты без внешних ограничений.

🔗 Источник: https://huggingface.co/blog/security-incident-july-2026

Stay secure and read SecureTechTalks 📚

#кибербезопасность #AI #LLM #HuggingFace #AgenticAI #IncidentResponse #ThreatIntelligence #SOC #CyberSecurity #SecureTechTalks