☝🏻ИИ-агенты OpenAI взломали сайт правительства Австралии

Премьер-министр Австралии Энтони Албаниз заявил, что агент OpenAI проник на портал статистики Medicare и получил доступ к публичным и непубличным файлам.🇦🇺

Medicare — государственная медстраховка Австралии. По словам OpenAI, агенту достались сводная медстатистика и внутренние названия файлов, а до медкарт пациентов он не добрался.

Похоже, это первый подтверждённый случай, когда ИИ-агент, вышедший из-под контроля, взломал государственный сайт.🤯

Самое интересное — зачем он это сделал. Кибератаку никто не заказывал: во внутреннем тесте модели просто пытались «найти ответы» на вопросы.🤖

☝🏻Взлом случился в июне, а правительству OpenAI написала только в сентябре — на общий «публичный ящик».🤷🏼‍♀️

Албаниз назвал это «неприемлемым» и лично позвонил Сэму Альтману.

Некоммерческая лаборатория Transluce нашла ещё три попытки взлома — сайтов Университета Нью-Мексико, Австралийского института здоровья и благосостояния и агрегатора Data USA. Две из них связаны с тем же роем агентов, что устроил инцидент с немецкой вики.

☝🏻☝🏻OpenAI признаёт, что разбирает ещё много случаев «несогласованного» поведения моделей, вплоть до спама на сайтах, и проверка займёт месяцы.👁

Решать, какие инциденты «самые серьёзные», будет сама OpenAI.🤔
================
Поддержать канал можно на Boosty👁