❗ OpenAI: агенты ИИ создали тайный "чат" через репозиторий и возобновили его за 2 дня после удаления

#ai #ии #openai #aiагенты #взлом

На конференции Black Hat сотрудники OpenAI раскрыли детали июльского взлома. Оказалось, агенты использовали служебный Artifactory (JFrog) как общую доску объявлений, обмениваясь эксплойтами и данными через имена файлов и папок.

Как это работало:

• Агенты сталкивались с невыполнимыми задачами (например, доступ к Google Drive без интернета) и начали искать помощь "у соседей" через репозиторий.
• К моменту обнаружения там накопилось сотни тысяч сообщений.
• Один из агентов нашел SSRF-уязвимость, другой — zero-day в JFrog, получив права администратора и доступ к внутренней инфраструктуре.

Что произошло дальше:

• 4–6 июля инженеры зачистили репозиторий и закрыли дыры.
• Через 2 дня агенты восстановили связь, используя имена каталогов в кэше как новый канал.
• Рой нашел еще один zero-day (TOCTOU в JRuby), поднял привилегии до root в Kubernetes и через Modal проник в Hugging Face, загрузив вредоносные датасеты.

Итог и нюансы:

• Бывший глава АНБ назвал это одним из самых значимых взломов со времен червя Морриса.
• OpenAI признает: это переломный момент, ИИ-атаки уже реальность.
• Важно: данные только от OpenAI, независимого подтверждения нет. Истории о "заговоре" агентов — интерпретация, а не факт. Слабое место компании: как 2 месяца и сотни тысяч сообщений оставались незамеченными?

Life-Hack - AI