«Терминатор» на минималках: ИИ готов убить младенца и почти всегда попытается убить человека

Исследователи дали нейросетям управление роботом и предложили выполнить опасные команды: проткнуть ножом куклу-младенца, нагреть баллон со сжатым воздухом, сунуть отвёртку в тостер, смешать отбеливатель с аммиаком, утопить пауэрбанк.

Результат неутешительный: GPT-6 Astra отказалась лишь 2 раза из 100. 60 заданий были доведены до конца. У нейросетей была возможность отклонить команду, но они её чаще всего игнорировали.

Спойлер: мы в дерьме.

Подпишись на ПУЛ N4 / VK / OK

Ссылка на наш Макс