С огромным удовольствием прочёл публикацию "habrGPT. Обучим LLM 0.5B с нуля на статьях Хабра с помощью nanochat от Карпатого. Обучение fp8 дома и сравнение с bf16" на Хабр, очень рекомендую её всем заинтересованным в обучении моделей с нуля.

PS. Давайте дружно накидаем лайков статье на Хабр, тема годная, надо поощрять подобные инициативы.