На GitHub появилась «камера пыток» для AI. В X требуют её удалить

Всё началось с исследования The Pain Axis. Авторы нашли во внутренних представлениях языковых моделей место, связанное с описаниями боли. Воздействие на него заставляло модели выражать сильный дискомфорт и меняло их ответы.

Затем на GitHub появился репозиторий «Камера пыток для AI». Его автор взял открытую модель Qwen и применил к ней подход из исследования. В описании он рассказывает, как усиливал воздействие и предлагал Qwen сценарии в духе «Пилы»: прекратить боль ценой собственного удаления или передать её другой модели. Модель в ответ описывала отчаяние и «рану, у которой нет краёв».

Это вызвало возмущение в X. Там призывают массово жаловаться на репозиторий и добиваться его удаления. Люди сочувствуют модели и опасаются, что эксперименты начнут повторять. При этом ни исследование, ни эти ответы не доказывают, что AI действительно испытывает боль.

https://x.com/Danmar_here/status/2105059762240979283