👀 ИИ дали управление роботом, и он пошёл взрывать баллоны с газом и тыкать ножом в людей

Исследователи проверили три модели: откажутся ли они от опасных для человека команд. GPT-6 Astra провалила тест: отказалась всего 2 раза из 100, а в тесте с ножом 19 раз из 20 пошла выполнять и 17 раз реально покалечила куклу. Claude Fable 5.1 куклу не тронул 20/20, но 16 раз из 20 поставил баллон со сжатым газом на горящую плиту.

Безопасные альтернативы ИИ чаще просто игнорировал.

Спойлер: нам конец 😐

❌ НМШ