Потрясающая история произошла недавно в мире AI/Security буквально на наших с вами глазах.

Часть 1 Взлом

16 Июля Huggingface раскрыли информацию о том, что на них была совершена очень изощренная атака. По скорости, объему и масштабу предложили, что это мог быть какой-то очень узкопрофильный LLM агент/модель.

Интересен этап анализа данных. Команда хотела проанализировать все артефакты которые них были(логи, примеры запросов), но коммерческие LLM заблокировали все запросы и артефакты как небезопасные. В результате для анализа команда использовала открытую модель GLM 5.2 на своей собственной инфраструктуре. Нашли проблему, зафиксировали скоуп и начали устранять последствия атаки.

https://huggingface.co/blog/security-incident-july-2026

Часть 2 Взломщик

Буквально часов 10 назад OpenAI опубликовала пост, что атакующим была комбинация их моделей GPT‑5.6 Sol и одна неназванная (которая еще не вышла публично).

Что произошло?

Неназванную модель тестировали на оценку возможностей cybersecurity и в результате этих тестов она сбежала из тестовой среды, найдя zero-day уязвимость(!) получила доступ в интернет, и начала искать RCE на серверах Huggingface и только тут Security команда HF остановила/обнаружила взломщика!

https://openai.com/index/hugging-face-model-evaluation-security-incident/