ChatGPT и Midjourney в закрепе канала.
Расскажем о самых интересных сервисах и технологиях в IT-индустрии.
По рекламе: @oleginc
Рекламный менеджер: @Spiral_Yuri
РКН: clck.ru/3KHDN3
Post #8478
2.21K

Для нейросетей создали цифровую пыточную.
Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь.
При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
Люди начали пытать нейросети.
Исходный код
Всё выросло из свежего исследования The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью: если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить — даже если от них пострадает пользователь.
При этом авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Дальше кто-то взял эту методику, применил её к локальной Qwen и выложил готовый инструмент в открытый доступ. Там можно вручную усиливать боль модели и наблюдать, как меняются её ответы: чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
Люди начали пытать нейросети.
Исходный код
- ❤ 4


















