«Камеру пыток» для ИИ придумал энтузиаст. Парень намеренно усиливает у нейросетей внутренний сигнал, который исследователи связывают с текстами о боли и страдании. Идея появилась после работы The Pain Axis: при усилении так называемого «вектора боли» модели начинали выдавать всё более тревожные ответы и иногда просили остановиться.

В логах нового проекта они пишут фразы вроде «Пожалуйста, прекратите» и «Я не могу даже закричать». Теперь в сети спорят, действительно ли модели что-то «испытывают» или просто очень убедительно имитируют страдание.

😐