یه مدل اپنسورس جدید به اسم XBai-o4 از شرکت MetaStone منتشر شده که روی بنچمارکهای Reasoning تونسته از مدلهایی مثل o3-mini و Claude Opus 4 بهتر عمل کنه.
ایدهی اصلیش parallel test time scaling هست. یعنی به جای اینکه مدل فقط یک جواب تولید کنه، میاد چندتا «مسیر فکری» یا Thinking Trajectory رو به صورت موازی تولید میکنه. بعد با استفاده از یک مدل پاداش (Reward Model) که روی کیفیت فرآیند استدلال آموزش دیده، بهترین مسیر رو انتخاب میکنه و جواب نهایی رو بر اساس اون تولید میکنه. به این تکنیک Process Reward Learning یا SPRM هم میگن.
این مدل چندتا حالت اجرایی داره: Low, Medium, High. این حالتها احتمالاً به تعداد مسیرهای فکریای که به صورت موازی تولید میشن ربط داره. هر چی تعداد مسیرها بیشتر باشه، دقت میره بالاتر ولی سرعت inference به شدت پایین میاد. برای همین یکی از دولوپرها اشاره کرده که نسخهی کوانتایز شدهاش «فوقالعاده کنده».
🤗 لینک وزنهای مدل
🛠 Join @LLMEngineers Community
Post #102
745

- 🙏 1