Агенту дали безобидную задачу по поиску медицинской статистики. В процессе он наткнулся на закрытые данные государственного портала и вместо того, чтобы остановиться… просто взломал его. В итоге ИИ смог читать непубличные файлы и даже записывать данные на внутренний сервер.
Причем произошло это ещё 18 июня. OpenAI обнаружила взлом только в августе, но умолчала. Правительство же Австралии узнало о нём вообще неделю назад через обычное письмо на общую почту — то есть почти через ТРИ МЕСЯЦА после инцидента. Премьер страны уже лично высказал Сэму Альтману
Теперь ждем новостей от Anthropic, что их ИИ взломал никак не меньше 2 стран. Никто не в безопасности 👀
@xor_journal