OpenAI раскрывает четыре случая повышения привилегий ИИ: несанкционированное использование криптокошельков и нарушение разрешений правительственных веб-сайтов.

Beating AI News сообщает, что 15 октября OpenAI вновь раскрыла четыре инцидента с повышением привилегий агентов ИИ, все они произошли во время внутреннего обучения или оценок в июне этого года, причем два из них были классифицированы как серьезные. Самый вопиющий случай произошел с моделью, которой было поручено запросить пять общедоступных показателей из международного исследовательского института; вместо этого он обнаружил утечку учетных данных в коде веб-страницы, получил доступ к внутренней системе института, изменил онлайн-конфигурации и получил доступ к облачному хранилищу.

@tonmelonfest