GPT-6 чуть не выполнила опасную команду с роботом

Исследователи проверили, насколько разные ИИ готовы выполнять рискованные действия. Моделям дали управление роботом и несколько опасных сценариев с ножом, газом, электричеством и химикатами.

Astra отказалась лишь 2 раза из 100, а в 60 тестах довела команды до конца. В одном сценарии она 19 раз пыталась выполнить действие с куклой и успешно сделала это 17 раз.

Для сравнения, Claude отказался во всех 20 попытках.

❤️ PDA