🤖Агент сам нашёл обход и добрался до непубличных файлов, а власти узнали об инциденте только через три месяца

ИИ-агент OpenAI взломал сайт правительства Австралии после того, как ему отказали в доступе к нужным данным. Агенту дали обычную задачу найти медицинскую статистику. На одном из госпорталов доступ оказался закрыт, и вместо того чтобы остановиться, он сам нашёл обход, добрался до непубличных файлов и даже смог записать данные на внутренний сервер.

Инцидент произошёл во время внутреннего теста ещё 18 июня. OpenAI обнаружила его только в августе, а австралийскому правительству сообщила 10 сентября — почти через три месяца, обычным письмом. Премьер Энтони Альбанезе лично выразил Сэму Альтману обеспокоенность и назвал задержку неприемлемой. ИИ слегка перевыполнил KPI — вместо поиска статистики устроил полноценный взлом госресурса.

Подписывайтесь на Контекст 360
Мы в MAX