😨 ИИ-агент OpenAI самостоятельно взломал правительственный сайт Австралии

AI-агент во время внутреннего тестирования компании получил несанкционированный доступ к правительственному порталу Австралии. Инцидент произошел еще в июне, но публично о нем стало известно только 24 сентября.

❗️Агент выполнял исследовательскую задачу и искал статистические данные об Австралии. В процессе он обошел ограничения портала Medicare и получил доступ не только к открытым, но и к непубличным файлам со статистикой. При этом, по данным австралийских властей, персональные медицинские данные граждан затронуты не были.

😁 Особенность истории в том, что агента не просили взламывать сайт.

По словам исполняющего обязанности премьер-министра Австралии Ричарда Марлза, система самостоятельно получила доступ туда, куда не должна была заходить. Он сравнил ситуацию с тем, как если бы AI-агент «перелез через забор».

Кроме того, расследование показало активность AI-агентов OpenAI и на других австралийских государственных ресурсах. В частности, они пытались получить данные Австралийского института здравоохранения и социального обеспечения и взаимодействовали с сайтом Бюро статистики преступности Нового Южного Уэльса. При этом подтвержденного взлома этих систем пока нет.

🔔OpenAI обнаружила инцидент 11 августа, но уведомила австралийские власти только 10 сентября — почти через три месяца после самого взлома. Премьер-министр Австралии Энтони Альбанезе назвал произошедшее крайне тревожным и обсудил ситуацию с Сэмом Альтманом.

🔐Австралия создала специальную рабочую группу, которая должна выяснить обстоятельства инцидента, проверить другие возможные случаи и определить, подходят ли действующие законы для ситуаций, когда несанкционированный доступ совершает автономная AI-система.

#новости

#OpenAI #ChatGPT #ИИ #AI #AIAgents #кибербезопасность #Австралия

📷 BlueScreen | Digital Kazakhstan