Huggingface TRL
У Huggingface есть библиотека для пост-трейнинга нейросетей и там, оказывается, есть очень подробный курс по тому как доучивать LLMки. Я вот только что вот узнал.
https://huggingface.co/smol-course
https://huggingface.co/learn/smol-course/
https://github.com/huggingface/smol-course
Вообще накидайте в комменты материалов по FT/RL/alignment - очень интересно что ещё можно почитать.
Post #1263
871