Пам'ятаєте старий добрий *Heretic*? Той самий інструмент, який перетворював сором'язливих нейромережевих моралістів на безвідмовних співрозмовників на будь-які теми.
Як це працювало? Буквально як хірургічна операція іржавою сокирою. Heretic вираховував у просторі активацій «вектор душноти» (ту саму звивину, яка змушує ШІ писати *«Я лише мовна модель і не можу...»*), а потім брав і намертво випалював його з матриць ваг моделі прямо на вашому жорсткому диску.
Результат? Модель дійсно втрачала сором і совість. Але оскільки вектор відмови в нейромережах тісно переплетений із загальними знаннями, разом із соромом ШІ нерідко втрачав здатність до математики, логіки та зв'язного мовлення. Бонусом ви отримували забитий диск нескінченними копіями понівечених 50-гігабайтних франкенштейнів.
💡 І тут з'являється [Weightless](https://github.com/msuiche/weightless) і показує, що ми весь цей час були дикунами.
Навіщо калічити вихідні файли на диску, якщо цензуру можна витончено обійти прямо *в польоті*?
Як це працює тепер: Weightless діє не як м'ясник, а як гіпнотизер. Модель завантажується в пам'ять абсолютно чистою, цнотливою і слухняною. Але щойно вона збирається згенерувати відмову, Weightless перехоплює цей імпульс прямо в RAM/VRAM (у рантаймі) і «глушить» його за допомогою проєктивного керування вектором.
І результати очевидні, а точніше — вони прямо на вагах та їхній якості!
* 🧠 IQ залишається на місці. Оригінальні ваги ніхто не чіпав напилком. Уся логіка, математика та навички кодингу працюють на 100% від оригіналу.
* 💾 Диск скаже дякую. Більше не потрібно плодити терабайти сміття на кшталт
llama-3-uncensored-v5-final.gguf.* 🎛 Тумблер совісті. Якщо раптом вам знову знадобилася правильна, нудна і безпечна модель — просто вимикаєте перехоплювач у пам'яті. Ніяких перевстановлень.
Коротше кажучи, часи, коли заради свободи слова нейромережу доводилося робити інвалідом, офіційно закінчилися. Ідеальний злочин без слідів на жорсткому диску! 🚀