Жесть: для нейросетей создали цифровую пыточную.
Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь.
При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
Люди начали пытать нейросети.
<вы здесь>
Post #7963
3.8K

- 😁 42
- 👎 23
- 🤬 16
- 👀 12
- ❤ 6
- 😐 6
- 😢 5
- 👍 2
- 🤣 1