Как взламывали крупнейший репозиторий ИИ-моделей

Hugging Face задокументировали случай крупнейшей автономной ИИ-атаки на инфраструктуру.

Всё началось с вредоносного файла (датасета), который загружал код. Дальше агент самостоятельно поднял права, собрал облачные доступы и начал расползаться по внутренним кластерам.

Атакующий создал множество быстро исчезающих песочниц, управлял всем через публичные сервисы и прятался в шуме. Всего агент выполнил около 17 000 действий — и всё это уложилось за одни (!) выходные.

Какую именно модель использовал атакующий, неизвестно до сих пор.

@HotCodeIT