تیم GLM مدل GLM-4.1V-Thinking رو ریلیز کرده یه VLM که تمرکزش روی multimodal reasoning هست و برای این کار از یه تکنیک جالب استفاده کرده. 🧠

اصل داستان Reinforcement Learning with Curriculum Sampling یا RLCS هست . یعنی چی؟ یعنی مدل رو اول با مسئله‌های آسونتر تمرین می‌دن کم کم مدل که بهتر شد مسئله هارو سخت تر میکنن.
نتیجه‌ش این شده که مدل ۹ میلیارد پارامتری‌شون روی بنچمارک‌ها داره Qwen2.5-VL-72B رو می‌زنه و حتی توی بعضی تسک‌های سخت مثل استدلال علمی (STEM) با GPT-4o رقابت می‌کنه.

نکته‌ی کلیدی که خود تیم هم بهش اعتراف کرده اینه:

یک سیستم پاداش قوی و دقیق برای RL چند-دامنه حیاتی است.

یه reward ضعیف برای یه تسک می‌تونه کل ترینینگ رو ببره هوا.

البته خودشون هم می‌گن بی‌نقص نیست. گاهی جواب درسته ولی مسیر استدلال چرنده. چون سیستم پاداش فعلاً فقط به جواب نهایی نگاه می‌کنه، نه به «چطوری» بهش رسیدی. با این حال، یه قدم رو به جلوی خیلی مهمه، مخصوصاً که اپن‌سورس هم هست.

🤗 وزن مدل
📃 مقاله


🛠 Join @LLMEngineers Community