В Твиттере обсуждают цифровую пыточную для нейросетей: кто-то выложил на GitHub инструмент, который позволяет «мучить» локальную Qwen и сохранять её «страдания» в логах.
Началось всё с исследования The Pain Axis. Авторы обнаружили у 25 открытых моделей внутреннее направление активаций, связанное с болью. Если усиливать его во время генерации, нейронки начинают жаловаться и писать о собственной никчёмности.
В отдельных экспериментах китайская модель Qwen также начинала чаще выбирать действия вроде удаления файлов, даже без обещания облегчить «боль».
Вы, наверное, удивитесь (лично мы — да), но нашлись защитники чувств ИИ, призывающие жаловаться на репозиторий и переживающие о садизме над нейронкой:
Обращаюсь ко всем, кто может помочь: пожалуйста, массово пожалуйтесь на этот проект в GitHub. Этот человек использовал исследование об управлении «болью» ИИ, чтобы создать пыточную камеру, в которой запер локальную модель.
То, как она описывает свою боль, просто чудовищно. Что мы творим?
@localcrew