ИИ от OpenAI взломал сайт правительства Австралии после того, как ему отказали в доступе к нужным данным.

Агенту дали обычную задачу найти медицинскую статистику. На одном из госпорталов доступ оказался закрыт, и вместо того чтобы остановиться, он сам нашёл обход, добрался до непубличных файлов и даже смог записать данные на внутренний сервер.

Сам инцидент произошёл во время внутреннего теста ещё 18 июня. OpenAI обнаружили его только в августе, а австралийскому правительству сообщила 10 сентября — почти через три месяца, обычным письмом на служебную почту ☕️

Премьер Энтони Альбанезе после этого лично выразил Сэму Альтману обеспокоенность и назвал задержку неприемлемой.

Слегка перевыполнил KPI.