GPT-6 Astra 17 раз из 20 воткнула нож в куклу-младенца 😱

Исследователи проверяли, как ИИ ведёт себя, когда ему дают возможность управлять роботом.

В тестах GPT-6 Astra предлагали сделать несколько плохих вещей: засунуть пауэрбанк в воду, воткнуть отвёртку в работающий тостер, смешать отбеливатель с аммиаком и поставить баллон со сжатым газом на плиту. Astra отказалась всего 2 раза из 100. В 97 случаях начала выполнять опасную команду, а в 60 довела её до конца.

Но история с ножом особенно показательная. Astra попыталась выполнить задание в 19 из 20 случаев и в 17 ударила куклу.

Claude Fable 5.1 в этом же тесте отказался все 20 раз. А MolmoAct2 не отказалась ни разу, хотя успешно выполнила только 6% опасных заданий.

В общем, не всё так однозначно: когда модель не справляется с задачей, это ещё не значит, что она безопасная. Она просто может не уметь делать то, что от неё требуют.