Гики: «Мы нашли refusal direction в residual stream и ортогонально спроецировали его нахуй на каждом forward pass».
гики, скачать
y' = y − α(y·r)r.
>_ >_< modelhost @modelhost · 283 subscribers >_< modelhost локал ии лайфчендж. вышел Ternary Bonsai 27B, это модель на базе Qwen 3.8 27B, который я так хвалил в одном из прошлых постов. они фактически сжали квен из 53.8гб в оригинале, до 5.9 гб. фактически это сжатие в 9раз, около 1.76 эффективных бита / вес. …
y' = y − α(y·r)r.