اگه ایجنتت برای دستهبندی پیام، نوشتن جواب و حل مسئله همش از یه مدل قوی استفاده میکنه، وقتشه مسیر درخواستها رو عوض کنی!
Smart Routing یعنی هر درخواست رو به مدل مناسبش بفرستی؛ کارهای ساده به مدل سبکتر و ارزونتر، کارهای پیچیده به مدل قویتر.
از این الگو شروع کن 👇
۱. کارها رو جدا کن: تشخیص موضوع پیام → مدل سبک؛ تحلیل چندمرحلهای → مدل قوی.مثلاً برای ایجنت پشتیبانی، تشخیص «پیگیری سفارش» میتونه با مدل سبک انجام بشه؛ بررسی یه شکایت پیچیده رو بسپار به مدل قویتر🧠
۲. مسیر رو با چند قانون ساده یا یه دستهبند سبک انتخاب کن.
۳. اگه خروجی تست کیفیت رو رد کرد، درخواست رو به مدل قویتر بفرست.
درنهایت هدفمون چیه؟پیدا کردن ارزونترین مدلی که کیفیت موردنیازت رو تأمین میکنه؛ نه صرفاً ارزونترین مدل!
Hashtagify!
