Hugging Face — это главный в мире склад искусственного интеллекта. Оттуда все скачивают готовые ИИ-модели и наборы данных для их обучения. На днях компания рассказала, что её взломали — и взлом был особенным. Впервые атаку провёл не человек, а искусственный интеллект.

Как это произошло. Кто-то загрузил на сайт вредоносный набор данных (датасет). Сам по себе это не вирус — это просто данные. Но при обработке загруженного платформа по ошибке запустила спрятанный в нём код: Hugging Face уточнил, что вредоносный датасет использовал два пути исполнения кода в конвейере обработки.

Дальше агент пошёл вразнос: сам двигался вглубь по одноразовым песочницам, искал системы, пытался выйти в интернет, повысить привилегии, взломать другие системы — и всё это автономно, без человека в цикле. Кампанию вёл фреймворк автономного агента (использованная LLM по-прежнему неизвестна), выполнивший многие тысячи отдельных действий по рою временных песочниц, с самомигрирующим управлением (command-and-control) на публичных сервисах.

Это ровно тот сценарий «агентного злоумышленника», который индустрия давно прогнозировала.

Теперь самое интересное — про защиту. Вместо привычного «мы наняли Mandiant или CrowdStrike» Hugging Face захотела натравить на разбор мощный ИИ вроде Claude или ChatGPT. Но топовые ИИ отказались: сработали встроенные ограничения на кибербез — вот ирония. В итоге компания подняла локальную модель — китайскую GLM 5.2 и проанализировала 17000 событий там.

Вышел абсурд. У атакующего ИИ никаких ограничений не было — он крушил всё подряд. А защитникам их же ИИ-помощники отказались помогать. Предохранитель, поставленный ради безопасности, ударил по своим.

Hugging Face теперь дает советы — и главный совет звучит почти как приговор облачному ИИ: не рассчитывайте в момент атаки на чужой ИИ из интернета — он может отказать. Держите собственный ИИ, без ограничений, на своих серверах, готовый заранее. В итоге компанию защищал не Claude и не ChatGPT, а своя модель (но китайская), поднятая у себя.

@gostev_future