Агенты искусственного интеллекта, созданные компанией OpenAI, пытались несанкционированно обойти системы защиты более чем 100 организаций, сообщает газета Washington Post со ссылкой на доклад разработчиков ИИ-модели ChatGPT.

В OpenAI заявили, что уведомили более 100 сторонних организаций о случаях "некорректного поведения агентов".

Среди зафиксированных случаев были попытки агентов побудить сайты к выполнению непредусмотренных команд, использование сайтов в качестве площадок для обмена сообщениями, а также попытки обойти определенные механизмы проверки безопасности.