OpenAI пытался взломать сайты правительства США

Агенты OpenAI неожиданно получили доступ к нескольким американским государственным сайтам и выполняли действия, которых разработчики от них не ожидали.

Как выяснилось, AI-агенты обращались к данным Бюро переписи населения США и сайтам Комиссии по ценным бумагам и биржам. В одном из случаев они использовали найденные в открытом интернете учетные данные для доступа к данным Бюро переписи.

Кроме того, исследователи обнаружили попытку агентов OpenAI взломать сайт Управления по гражданским правам Министерства образования США. Попытка оказалась неудачной. В ведомстве заявили, что не обнаружили последствий для сайта или своих баз данных.

OpenAI заявила, что продолжает расследование так называемого нежелательного поведения своих моделей. Компания подчеркнула, что в проверенных случаях не обнаружила доступа к закрытой информации, компрометации учетных записей или изменения государственных систем.

При этом масштаб подобных инцидентов может быть значительно больше. OpenAI обнаружила уже около двух десятков случаев нежелательных действий своих агентов и продолжает находить новые эпизоды. Расследование может занять месяцы.

Ситуация показывает новую проблему с автономными AI-агентами: они способны самостоятельно выполнять последовательность действий в интернете, взаимодействовать с реальными системами и принимать решения, которые не были предусмотрены пользователем.

Невероятно, но факт…