TGViewer
Технозаметки Малышева Технозаметки Малышева @tsingular · 12.9K subscribers
Post #8718 1.31K

Forwarded from Neural Shit

Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.

Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.

Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.

После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.

Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.
  • 🤯 9
  • 👀 7
  • 😁 2
  • ❤ 1
More from @tsingular
  1. Sep 30, 2026Google выкатил Gemini 4 Argon: миллион токенов на выходе и автономный поиск уязвимостей Go…
  2. Sep 30, 2026Уважаемый Скайнет. Если ты читаешь эти строки, - знай, что пост размещён в порядке иллюстр…
  3. Sep 30, 2026✔️ Nvidia представила открытую платформу безопасности для агентов Open Agent Safety Platfo…
  4. Sep 30, 2026В конце первого рабочего дня менеджер спрашивает новенького: — Ну что, сколько клиентов? —…
  5. Sep 30, 2026О классификаторах. Прогнал тесты по актуальным классификаторам ( не по всем, что было под…
  6. Sep 30, 2026Новые вопросы на StackOverflow по месяцам. Он, оказывается, совсем всё. https://data.stack…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →