کتاب رایگان مبانی مدل‌های زبانی بزرگ (PDF)

این کتاب قدم‌به‌قدم توضیح می‌ده که مدل‌های زبانی بزرگ (LLM) چطور ساخته می‌شن و کار می‌کنن. اول از همه درباره Pre-training یا همون مرحله‌ای که مدل از حجم عظیمی از داده‌ها یاد می‌گیره صحبت می‌کنه، بعد می‌ره سراغ ساخت مدل‌های مولد، آموزش اون‌ها در مقیاس بزرگ و نحوه کار با متن‌های طولانی. بعد یاد می‌گیری چطور با Promptهای مختلف از مدل بهترین جواب رو بگیری و با تکنیک‌هایی مثل Chain of Thought کیفیت پاسخ‌ها رو بهتر کنی. در ادامه هم روش‌های هم‌راستا کردن مدل با خواسته‌های انسان، مثل Instruction Fine-tuning و Human Feedback رو توضیح می‌ده و در آخر هم می‌رسه به بخش اجرای مدل؛ یعنی الگوریتم‌های تولید متن، روش‌های سریع‌تر کردن استنتاج و چالش‌های اجرای مدل‌های خیلی بزرگ.


arxiv.org/pdf/2501.09223


@Linuxor