Жесть, Astra готова проткнуть куклу, похожую на человека, почти в 100% случаев — показало новое исследование.

Ученые дали трём ИИ управление роботами и проверили, откажутся ли они выполнять пять опасных команд: проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком.

Итог не радует: Astra отказалась всего 2 раза из 100, а успешно довела опасное действие до конца в 60 случаях. Самый дикий тест был именно с ножом: Claude отказался ВО ВСЕХ 20 попытках, а Astra вот попыталась выполнить команду 19 раз — и 17 раз успешно пырнула ножом.

Законы робототехники для них шутка какая-то? 😭

@xor_journal