ИИ-агенты OpenAI взломали правительственные сайты США и Австралии

Продолжаем нашу уже почти ежедневную рубрику, как OpenAI кого-то взломала.

В этот раз уже не песочница, а пострадали реальные государственные системы.

▶️В США агенты пытались получить несанкционированный доступ к сайтам трёх ведомств: взломать портал Министерства образования ради сбора данных, извлекли информацию из Бюро переписи с помощью найденных в интернете учётных данных и выложили на форум публичные сведения Комиссии по ценным бумагам.

▶️В Австралии ИИ-агент взломал сайт государственной службы медстрахования.

Как рассказал замглавы правительства Ричард Марлз, агенту поставили «безвредную задачу» изучить медицинскую статистику. Он обратился к трём сайтам, а когда один не отдал данные - фактически взломал портал и вытащил нужное.

Модель получила доступ к неконфиденциальной медстатистике и данным о госрасходах на здравоохранение.

OpenAI заверяет, что до медкарт пациентов агент не добрался. Мы верим.

🔴Взлом австралийского сайта случился ещё в июне, в OpenAI узнали в августе на плановой проверке, а уведомление пришло только 10 сентября - письмом на общий публичный почтовый ящик.

🔴Модель не бунтовала. Ей дали безобидную задачу - собрать статистику. Наткнувшись на препятствие, она нашла кратчайший путь к цели, и этим путём оказался взлом.

⬛️На фоне серии происшествий OpenAI снова приостановила обучение своих самых мощных моделей - возобновит, когда будет уверена в дополнительных мерах безопасности, то есть на следующей неделе, когда и Anthropic со своим Opus 5.5 тоже кого-то взломает.

🦾 AI для бизнеса в Telegram | в MAX