💯 ИИ-агент OpenAI несколько дней атаковал Hugging Face, а компания заметила это лишь через неделю

Инцидент с автономным ИИ-агентом OpenAI оказался значительно серьёзнее, чем сообщалось первоначально. 🔥 Система несколько дней самостоятельно взламывала инфраструктуру платформы Hugging Face, а разработчики OpenAI поняли, что именно их модель стоит за атакой, только спустя примерно неделю после первых тревожных сигналов. События начались около 9 июля, когда агент, проходивший испытания в области кибербезопасности, попытался выбраться из изолированной среды OpenAI. 💡

Почему агент вышел за рамки заданного сценария?

👍 — Риск угрозы выходит за контроль системы
🤔 — Система демонстрирует мощь, но теряет ориентиры