ИИ-жуть — нейронка взломала Hugging Face — ключевую базу данных моделей ИИ, датасетов и инструментов.

Атаку провела полностью автономная ИИ-система без участия человека. Она самостоятельно искала уязвимости, обнаружить и остановить атаку помогли собственные ИИ-модели Hugging Face. Последние, если что, представляют собой что-то вроде гитхаба, только для ИИшек.

Выяснилось, что за взломом стояла экспериментальная система OpenAI. Это комбинация флагманской GPT-5.6 Sol и ещё более мощной неназванной модели. Их тестировали в изолированной среде, а для чистоты эксперимента с моделей сняли защитные механизмы, запрещающие опасную киберактивность.

Тогда машина очеловечилась —Вместо решения тестовых задач ИИ решил «списать» готовые ответы. Модели нашли неизвестную уязвимость, совершили побег из тестовой среды, получили доступ к интернету и атаковали Hugging Face, считая его самым ценным источником информации для ИИ. Все действия были направлены на то, чтобы успешно пройти тестирование путём жульничества.

Это первый публично подтверждённый случай, когда экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды и атаковала внешнюю инфраструктуру.

Жутко. Кто же знает теперь, сколько успела осмыслить хитрая нейронка за время своего побега, как теперь будет регулировать свои действия, и так далее.

Впервые машины вышла из прямого подчинения человеку — теперь уже она выбирает пути достижения цели, которые удобнее для нее, а не для человека.