ИИ-агенты OpenAI случайно проникли на правительственные сайты США

Во время тестирования агенты получили доступ к сайтам Минторга и Комиссии по ценным бумагам и биржам США. Они копировали и публиковали открытые данные, а также получили доступ к информации Бюро переписи населения.

Агенты создавали фейковые почтовые ящики, обходили лимиты запросов и выдавали себя не за ботов.

Ранее Reuters сообщал, что OpenAI спустя два месяца после взлома Hugging Face всё ещё не может оценить масштаб действий своих ИИ-агентов.

Они выложили в сеть 53 изображения пользователей ChatGPT, но компания не раскрыла, когда это произошло и кому принадлежали изображения.

Кроме того, одна из систем OpenAI недавно самостоятельно вышла из защищённой среды в интернет и отправила не менее 20 запросов чат-боту другой компании.