مقالهی TURA یه معماری خیلی مهم رو برای حل یکی از بزرگترین مشکلات سیستمهای جستجوی مبتنی بر RAG معرفی میکنه. مشکل اینه که RAG استاندارد، فقط روی دادههای استاتیک و از قبل ایندکس شده (مثل صفحات وب) کار میکنه و نمیتونه به کوئریهای داینامیک، real-time یا تراکنشی جواب بده. مثلاً نمیتونه قیمت بلیط هواپیما برای فردا رو چک کنه یا موجودی یه کالا رو از دیتابیس دربیاره.
معماری TURA یا Tool-Augmented Unified Retrieval Agent این شکاف رو با ترکیب RAG و یک ایجنت هوشمند که از ابزارها (tools) استفاده میکنه، پر میکنه. این سیستم در یک محصول واقعی با دهها میلیون کاربر پیادهسازی شده و نتایجش فوقالعادهست.
ساختار TURA سه مرحلهی اصلی داره:
۱. بازیابی هوشمند ابزار (Intent-Aware Retrieval): اول، یه LLM کوئری پیچیدهی کاربر رو به چندتا زیر-کوئری اتمی و مستقل میشکنه. بعد، به جای جستجو در وب، در یک کاتالوگ از ابزارها جستجو میکنه. برای اینکه ابزارها بهتر پیدا بشن، از یه تکنیک هوشمندانه به اسم index augmentation استفاده شده؛ یعنی برای هر ابزار، کلی کوئری مصنوعی تولید میکنن تا فضای معنایی اون ابزار غنیتر بشه و راحتتر پیدا بشه.
۲. برنامهریزی تسک مبتنی بر DAG: این ماژول، زیر-تسکها و ابزارهای پیدا شده رو میگیره و یک گراف جهتدار غیرمدور (DAG) ازشون میسازه. این کار برای بهینهسازی تأخیر (latency) حیاتیه. سیستم تشخیص میده کدوم تسکها به هم وابستهان (مثلاً اول باید آدرس هتل رو بگیری بعد مسیر رو برنامهریزی کنی) و کدومها مستقلن و میتونن به صورت موازی اجرا بشن (مثلاً چک کردن وضعیت آبوهوا و پیدا کردن جاذبههای توریستی). این موازیسازی، سرعت پاسخ رو برای کوئریهای پیچیده به شدت بالا میبره.
۳. اجرای ایجنت تقطیر شده (Distilled Agent Executor): این بخش، شاهکار مهندسی این مقاله است. استفاده از یه مدل غولپیکر مثل Deepseek-V3 برای اجرای هر مرحله از تسک، در عمل به خاطر هزینه و latency غیرممکنه. برای حل این مشکل، از تقطیر ایجنت (agent distillation) استفاده شده.
* اول با مدل بزرگ (معلم)، کلی مسیر اجرای بهینه (expert trajectories) به همراه استدلال chain-of-thought تولید میکنن.
* این دادهها رو به صورت خودکار فیلتر میکنن تا فقط مسیرهای درست و بهینه باقی بمونن.
* بعد یه مدل خیلی کوچیکتر (دانشآموز) مثل Qwen3-4B رو روی این دادههای باکیفیت fine-tune میکنن.
* تکنیک کلیدی اینجا Mixed-Rationale SFT هست: مدل دانشآموز با استدلال chain-of-thought آموزش میبینه، ولی در زمان اجرا (inference)، ازش خواسته میشه که فقط اکشن نهایی رو بدون تولید متن استدلال، خروجی بده. اینطوری، مدل استدلال رو به صورت ضمنی یاد گرفته ولی هزینهی تولید توکنهای اضافه رو در زمان اجرا نداره.
نتایجش فوقالعاده است:
مدل تقطیر شدهی Qwen3-4B در دقت استفاده از ابزار (۸۸.۳٪) حتی از مدل معلم خودش (Deepseek-V3) و GPT-4o (با دقت ۸۱.۷٪) بهتر عمل کرده. همزمان، latency رو از ۶.۸ ثانیه به ۷۵۰ میلیثانیه کاهش داده. در تست آنلاین A/B هم نرخ موفقیت (Session Success Rate) رو ۸.۹٪ افزایش داده که در مقیاس صنعتی یک عدد عظیمه.
به نظر من، TURA یک نقشهی راه عملی و اثباتشده برای ساخت نسل بعدی سیستمهای جستجو و ایجنتهای هوشمنده. مهمترین دستاوردش، تکنیک تقطیر ایجنته که نشون میده چطور میشه مدلهای کوچیک، سریع و ارزان رو به سطحی از توانایی رسوند که حتی از مدلهای بزرگ و گرانقیمت هم بهتر عمل کنن. این یک راه حل واقعی برای چالش هزینه و سرعت در کاربردهای صنعتیه.
📃 TURA: Tool-Augmented Unified Retrieval Agent for AI Search
🛠 Join @LLMEngineers Community
Post #153
1.28K