Сейчас на инференсе висит s500 с тёплым стирингом. Расскажу поэтапно, как я к ней пришёл и что сделал после.
Путь к s500, по шагам.
Прежние версии были суховатыми роботами, так что взялся за характер и баги. 1) Починил «путаницу роли»: модель присваивала себе имя собеседника и сдавалась под «стань Олегом», три точечных фикса это убрали.
2) Полным анфризом переписал параноидальный рефлекс в размышлениях, с холодного тона на тёплый, без потери памяти и обороны.
3) Добавил «тёплый стиринг» через каналы экспертов, чтобы собеседник был живым, а не механическим 🔥.
4) Выкинул сломанный MoE-роутер (он работал как тупой балансировщик) и поставил современный Loss-Free в стиле DeepSeek.
5) Прогнал полный дообучающий заход на чистом корпусе.
Итог: s500, тёплая и держит свою личность 🤗.
Что сделал ПОСЛЕ s500 🔬. Закопался в память модели. Нашёл «головы ретривала» (они достают факты из контекста) и выяснил: прямой вопрос «как меня зовут» модель помнит даже с 3000 токенов, а на косвенный намёк «с учётом того, что я говорил про кота»
скатывается в общий совет. Разрезал беду на две части. Неверность (выдумывает число вместо реального) лечу бесплатным приёмом Context-Aware Decoding, точность ретрива выросла с 25% до 50%. А поведение «вплести факт» дообучаю методом RetMask-DPO, причём личность при этом
остаётся целой. Впереди:
доменные эксперты по методу Branch-Train-MiX (математика, код, факты, логика), чистка повторов, а как закрою V11, иду в 7 миллиардов параметров, это V12.Уже потратил 70 долларов на Huggingface для того чтобы у вас была возможность чатиться, буду признателен поддержке - скоро обновление!!!
ЧАТ с RUKALLAMA V11 #1
ЧАТ с RUKALLAMA V11 #2
ЧАТ с RUKALLAMA V11 #3
Ниже ссылки для поддержки канала ❤️
🦆🦆🦆
Поддержать канал ₽ / $ / ₿