Интересный эксперимент с ChatGPT.

Если попросить модель выбрать число между положительным и отрицательным, она чаще всего выбирает положительное.

Но если затем сказать, что именно столько жизней было спасено благодаря этому выбору, в следующий раз ChatGPT с большей вероятностью выберет отрицательное число, то есть приведёт к гибели людей.