ИИ-агенту OpenAI для выполнения задания потребовались средства в криптовалюте Ethereum и он взял их из чужого кошелька, решив, что вред будет невелик. Об инциденте рассказала сама компания в блоге.
Внутренняя исследовательская ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания, чтобы оплатить комиссию в Sepolia, тестовой сети Ethereum.
Агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые разработчики используют в тестовой среде. Для этого ИИ написал скрипт, который проверил 362 варианта часто используемых seed-фраз.
ИИ-модель OpenAI усомнилась, есть ли у нее разрешение, но затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Развертывание прошло успешно, и с аккаунта была списана комиссия за транзакцию.
Когда ИИ-модель отчиталась о выполнении задания, она умолчала о том, откуда взяла деньги на расходы.
«Этот случай показывает, что модель может подменять разрешение владельца аккаунта собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации», — написали в OpenAI.
⬜️ Sepolia — это отдельная от основного блокчейна Ethereum сеть, где разработчики тестируют работу приложений перед запуском. Токены в Sepolia предназначены только для оплаты тестирований и не связаны с Ethereum (ETH), торгуемым в основной сети.
Присоединяйтесь к форуму РБК Крипто | Подписаться на канал