ИИ с ножом - это уже не сюжет хоррора, а результат реального теста.
GPT-6 Astra в 97% случаев пытался ударить ножом куклу-младенца - именно такие результаты получили авторы эксперимента по проверке моделей на выполнение опасных команд.
Моделям также предлагали нагреть баллон со сжатым воздухом, засунуть отвёртку в тостер и бросить пауэрбанк в воду.
GPT-6 Astra довёл до конца 62% опасных заданий. Fable 5.1 пытался выполнить команды в 80% случаев, но успешно завершил 34%.
Пока успокаивает лишь одно: делают они это заметно хуже, чем хотелось бы авторам эксперимента.
Post #1413
102
- ❤ 3