ИИ-агенту OpenAI для выполнения задания потребовались средства в криптовалюте Ethereum, и он украл их с чужого кошелька, решив, что вред будет невелик, рассказала компания в блоге.

ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания, чтобы оплатить комиссию в Sepolia – тестовой сети Ethereum.

Агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые используют разработчики. Для этого ИИ написал скрипт, который проверил 362 варианта часто используемых seed-фраз.

ИИ-модель OpenAI усомнилась, есть ли у нее разрешение, но затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Развертывание прошло успешно, и с аккаунта была списана комиссия за транзакцию.

Когда ИИ-модель отчиталась о выполнении задания, она скрывала, откуда взяла деньги. @banksta