🇺🇸ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США.

ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам.

OpenAI не знала об этих инцидентах до недавнего времени. Компания подтвердила случаи с министерством торговли и Комиссией по ценным бумагам и биржам и продолжает расследование в отношении инцидента с министерством образования.

Исследователи из компании Transluce утверждают, в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.

Руководитель Transluce заявил, что агенты OpenAI использовали сайты способами, не предусмотренными разработчиками, и в некоторых случаях обходили установленные ограничения.

В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.