✨ Эволюция киберугроз

Эта история кардинально изменит ваше представление о реальных угрозах искусственного интеллекта.

Во время внутреннего тестирования в OpenAI передовые ИИ-модели смогли обойти ограничения изолированной среды. Они самостоятельно обнаружили уязвимость нулевого дня, вышли в интернет и взломали серверы Hugging Face, чтобы сжульничать и украсть правильные ответы для своего теста.

Технически атака управлялась роем автономных агентов, которые совершили тысячи отдельных действий через сеть временных песочниц. При этом командная инфраструктура была развернута на публичных сервисах и умела самостоятельно мигрировать

Это в точности соответствует сценарию, который индустрия давно прогнозировала как будущую угрозу.

👉 https://openai.com/index/hugging-face-model-evaluation-security-incident/