‏🚀 جهش در سرعت جستجوی هوشمند با رویکرد Retrieve-for-Train

‏تیم تحقیقاتی گوگل روش جدیدی برای بهینه‌سازی مدل‌های هوش مصنوعی ارائه کرده که نیاز به زنجیره‌های استدلالی (Chain-of-Thought) طولانی در زمان پاسخ‌دهی را حذف می‌کند. در این رویکرد، بار سنگین پردازش از مرحله اجرا (Inference) به مرحله آموزش منتقل می‌شود.

‏به جای اینکه مدل در هر لحظه تعداد زیادی زیر-پرس‌وجو تولید کند، از یک مدل Diffusion Retriever سبک با ۵۳.۹ میلیون پارامتر استفاده می‌شود. این مدل رفتارهای پیچیده را در خود «کامپایل» کرده و تمام مسیرهای جستجو را در یک گذر غیرخودرگرسیون (non-autoregressive) تولید می‌کند.

‏مهم‌ترین نتایج این دستاورد:
‏- افزایش ۱۲ تا ۲۰ برابری سرعت نسبت به مدل‌های خودرگرسیون
‏- کاهش تأخیر (Latency) به بازه زیر یک ثانیه تا چند ثانیه
‏- افزایش تنوع، دقت و بازیابی (Recall) پاسخ‌ها
‏- عدم نیاز به برچسب‌های انسانی برای نظارت

افزایش سرعت جستجوی هوشمند با رویکرد Retrieve-for-Train گوگل