🎯 مدل Decision 2.0؛ مدل‌هایی که به‌جای حرف زدن، تصمیم می‌گیرند

پروژه vLLM Semantic Router روی ایده جالبی کار می‌کند: به‌جای اینکه برای هر تصمیم از LLM بخواهیم متن تولید کند، مدل مستقیماً بین گزینه‌ها احتمال و امتیاز می‌دهد. مستندات پروژه همین حالا سؤال‌های Yes/No، انتخاب چندگزینه‌ای و امتیازدهی را برای لایه تصمیم‌گیری نشان می‌دهند.

⚡ کاربردش برای Agentها جذاب است؛ مثلاً تشخیص اینکه یک درخواست به کدام مدل یا تیم فرستاده شود، آیا نیاز به استدلال عمیق دارد یا میزان فوریت آن چقدر است. این دقیقاً با هدف Semantic Router برای انتخاب مسیر مناسب براساس کیفیت، هزینه و Latency هم‌راستاست.

🧠 طبق اطلاعات منتشرشده درباره خانواده Decision 2.0، مدل‌ها از حدود 0.6B تا 27B عرضه می‌شوند و بزرگ‌ترین نسخه با نام Vega-27B معرفی شده است.

💡 ایده اصلی ساده است: برای کاری که فقط به یک «تصمیم» نیاز دارد، چرا چندصد Token متن تولید کنیم؟

[GitHub پروژه vLLM Semantic Router]


http://github.com/vllm-project/semantic-router

https://huggingface.co/collections/vllm-sr/decision-20

@rss_ai_ir

#DecisionModels #vLLM #SemanticRouter #AIAgents #LLM #AIInfrastructure #AgenticAI #هوش_مصنوعی