این فوق العادس چینیا یه پروژه آموزشی شروع کردن برای ساخت LLM کوچیک 64 میلیون پارامتری از صفر توی توی دو ساعت؛

هدفش اینه که به‌جای اینکه فقط با Transformers و LoRA و مدل‌های آماده کار کنی، خودت ساختار و کل مسیر آموزش یه مدل زبانی رو ببینی و اجرا کنی. این خیلی خوبه برای پروژه های دانشجویی و حتی یادگیری شخصی.


نکته تا الان 50 هزار ستاره گیتهاب گرفته، زبان اصلیش چینیه ولی ترجمه انگلیسی هم داره :

github.com/jingyaogong/minimind


@Linuxor