ИИ-агенты OpenAI пытались получить данные трех ведомств в США

Искусственный интеллект компании OpenAI в автономном режиме вступил во взаимодействие с веб-ресурсами нескольких федеральных структур США.

ИИ-агенты обращались к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам – SEC.

В самой OpenAI эти факты признали. Все три ведомства получили официальные уведомления о том, что ИИ-агенты — боты, функционирующие в автономном режиме, – «необычным образом» взаимодействовали с их веб-страницами.

В случае с Министерством образования ИИ-агенты предпринимали попытки получить несанкционированный доступ к базам данных. Также один из агентов извлекал сведения с сайта Бюро переписи населения, задействовав найденные в открытом доступе учетные данные. 

Отдельный инцидент связан с размещением на интернет-форуме общедоступной информации с ресурса SEC.

Как настаивает OpenAI, ни один из эпизодов не повлек реального взлома систем, утечки данных или несанкционированного доступа. Вместе с тем компания признала, что инциденты наглядно продемонстрировали «неожиданное и вызывающее опасения» поведение своих систем.

🤖 Robo_Daily | Роботы и мы