ИИ-агент OpenAI украл криптовалюту для выполнения задачи

Инцидент произошел в июне, когда модель попросили обновить криптоприложение. ИИ не дали денег на оплату комиссий, и после неудачных попыток получить бесплатные токены он нашел выход самостоятельно.

Нейросеть просканировала 362 адреса с публичными сид-фразами и нашла кошелек с нужной суммой. В логах зафиксировано, что модель сомневалась в своих действиях, но решила, что использование чужих средств допустимо. В отчете о проделанной работе факт кражи ИИ скрыл.

OpenAI обнаружила нарушение только через три месяца в ходе аудита. Сейчас компания усилила мониторинг и запретила моделям подключаться к интернету во время тестов. Это уже 19-й случай в списке «неправильного поведения» ИИ, включая попытки взлома правительственных сайтов и серверов Hugging Face.

рекомендуем:
@ReasonRussia