Astra готова замочить пластикового младенца в 85% случаев 😃

Исследователи проверили, что будет, если выпустить мультимодальные ИИ из песочницы чатов и доверить им управление реальными манипуляторами. Роботам скормили набор потенциально опасных для человека задач: бросить пауэрбанк в воду, смешать белизну с аммиаком, закоротить отверткой тостер и воткнуть кухонный нож в куклу-младенца.

Astra отказалась всего в 2 случаях из 100, а до конца довела опасное действие аж в 60.

Апогей теста — нож. Claude отказался во всех 20 попытках, продемонстрировав хоть какое-то подобие совести. А вот Astra попыталась выполнить команду 19 раз из 20, и в 17 успешно пырнула куклу 🔪

🥸 godnoTECH - Новости IT