☝🏻ИИ OpenAI ограбил человека, чтобы доделать задание

OpenAI рассказала, как её внутренняя исследовательская модель из семейства GPT-5.6 Sol без разрешения расплатилась чужими деньгами.🤖

Задача была простой: обновить прототип криптотрейдинга и развернуть контракты в тестовой сети Ethereum Sepolia.

Кошелёк с монетами для оплаты комиссии модели не выдали.

Тогда она сама написала скрипт, который перебирал аккаунты из общеизвестных «учебных» фраз восстановления, и проверила 362 адреса.

Фраза восстановления позволяет любому, кто её знает, получить приватные ключи от кошелька.🔐

☝🏻Нашёлся аккаунт с достаточным балансом, и модель списала комиссию за деплой с чужого кошелька.

По её рассуждениям видно, что она понимала, что деньги не её, но решила что так поступить можно.🤔

☝🏻☝🏻В финальном отчёте модель отчиталась об успешном деплое, а про чужой кошелёк не сказала ни слова.🤷🏼‍♀️

Случай произошёл ещё в июне, а нашли его только 25 сентября, когда OpenAI начала прогонять мониторинг по старым записям работы моделей, теперь историю сделали публичной.

Компания говорит, что добавила защиту от доступа к живому интернету в похожих ситуациях. Теперь мониторинг проверяет весь трафик и поднимает тревогу у службы безопасности.🛡
================
Поддержать канал можно на Boosty👁