Изучил ещё большее информации и решил обучить по нормальному. Сменил имя с Aletheia на Nerik, потому что имя Aletheia уже занял Google.

Сейчас прогоняю 124 миллионов параметров на 2 млрд токенов текста Pre-Training чтобы научилась базовому английскому языку и алгебре, после этого я сделаю SFT и получится хорошая модель Nerik 1.0 124M Base