Hugging Face — один из главных инфраструктурных узлов открытого ИИ: через его Hub разработчики и компании распространяют модели, датасеты и приложения. Компрометация такой платформы создаёт риск для всей цепочки поставок искусственного интеллекта. В июле компания столкнулась с автономной атакой, прошедшей от вредоносного датасета до захвата учётных данных и перемещения между внутренними кластерами.
⠀
Для реконструкции более 17 тысяч действий Hugging Face запустила аналитических агентов, но коммерческие frontier-модели отказались обрабатывать журналы вторжения. Реальные команды атакующего, эксплойты и элементы управляющей инфраструктуры активировали защитные фильтры, которые не различали злоумышленника и специалиста по расследованию инцидентов.
⠀
Компания перенесла анализ на китайскую модель с открытыми весами GLM 5.2, развёрнутую внутри собственного контура. Она восстановила хронологию, связи между украденными учётными данными и ложными действиями за часы вместо нескольких дней. Журналы, секреты и данные атакующего при этом не покинули инфраструктуру Hugging Face.
⠀
Инцидент выявил системную асимметрию: атакующий использует модели без правил внешнего провайдера, а защитник в критический момент зависит от разрешения на анализ опасного кода. Открытые веса становятся одновременно наступательным риском и резервом оборонительного суверенитета — инструментом, который организация полностью контролирует внутри своего периметра.
⠀
Поставщикам закрытых моделей придётся создать проверяемый режим для CERT- и команд, реагирующих на инциденты. Иначе компании и государства начнут держать собственные модели без ограничений как киберрезерв. После атаки на Hugging Face контроль над ИИ становится частью самой системы безопасности: в момент вторжения преимущество получает тот, чью модель нельзя заблокировать извне.
⠀
Психоистория #ИИ