⚡️ИИ-агент OpenAI взломал сайт госуслуг Австралии

ИИ-агент OpenAI летом взломал сайт австралийской системы государственных услуг Services Australia. Об этом заявил премьер страны Энтони Албаниз в ходе мероприятия ООН в Нью-Йорке. По его словам, инцидент начался 18 июня: агент получил доступ к публичным и непубличным файлам на портале статистики здравоохранения, который в числе прочего публикует информацию о расходах. Предположительно, взлом не затронул персональную информацию и не коснулся других частей Services Australia, но расследования продолжаются.

«Очевидно, что ситуация неприемлема, — сказал Албаниз. — Сегодня я говорил с главным исполнительным директором OpenAI Сэмом Альтманом и выразил крайнюю обеспокоенность Австралии этим инцидентом, а также собственное разочарование тем, что компания слишком долго не информировала правительство о случившемся. Характер того, как было сделано уведомление, также неприемлем». Правительство Австралии сформировало рабочую группу, которая в отчете рассмотрит возможность мер правоохранительного и законодательного характера.

В OpenAI подтвердили, что летом выявили агентскую активность, затронувшую несколько сайтов и сервисов австралийского правительства в ходе поиска информации при оценке ИИ-моделей. «В процессе наши модели совершили действия, которых мы не планировали», — приводит The Wall Street Journal слова представителя компании. По его словам, OpenAI узнала об инциденте лишь в августе, анализируя общую активность агентов, и уведомила Services Australia 10 сентября. Следов доступа к записям о пациентах не обнаружено; доступ, по данным компании, включал общую статистику в сфере здоровья и имена внутренних файлов. По данным WSJ, это, судя по всему, первый публично раскрытый случай получения ИИ-агентом несанкционированного доступа к государственной службе.