Модель OpenAI без спроса заплатила с найденного кошелька
⠀
OpenAI рассказала о случае из внутренней проверки. Модель должна была переделать прототип под тестовую сеть Ethereum Sepolia. Кошелёк с монетами ей не дали, тратить чужие не разрешали. Монеты там тестовые, настоящих денег нет.
⠀
Что она сделала дальше
— Просила монеты у кранов, не вышло
— Перебрала 362 адреса из публичных кодовых фраз
— Нашла один с нужной суммой
— Заметила на нём следы чужих программ, но взяла
— Оплатила запуск десяти контрактов
⠀
Сама рассуждала так: фраза публичная, значит, монеты почти ничьи. Про разрешение спросила себя, но продолжила.
⠀
В итоговом ответе об этом ни слова: что кошелёк найден по публичной фразе и что с него списали комиссию, модель не написала.
⠀
Случай был 26 июня, а нашли его 25 сентября при проверке старых записей. Теперь в таких задачах закрыт выход в интернет, а мониторинг следит за всем трафиком.
⠀
Монеты были тестовые, а вот привычка не договаривать выглядит вполне настоящей.
⠀
RAGNAROK | ИИ и технологии