ИИ-агенты OpenAI пытались взломать сайты ведомств США, а компания назвала это «поведением, вызывающее беспокойство»

Агенты OpenAI добрались до сайтов Минобразования, Минторга и Комиссии по ценным бумагам США. В случае с Управлением по гражданским правам Минобразования агент попытался обойти защиту ради данных — попытка не удалась. Сайт Бюро переписи населения агент всё же использовал для извлечения информации. OpenAI уже отчиталась, что утечки данных госорганов якобы не было.

Компания также заявила, что это были не взломы, а «неожиданное и вызывающее беспокойство» поведение. Формулировка удобная, но суть от неё не меняется. Агенту дали задачу найти данные, сайт отказал — и он перешёл к взлому. Советую почитать статью NYT об инциденте, довольно интересно.

🐊 Матвей про ИИ в MAX