‏🧠 مدل‌های زبانی با قابلیت مدیریت مستقیم حافظه

‏محققان متا در مدل‌های جدیدی با عنوان Context Language Models (CLM)، منطق سنتی مدیریت حافظه را کنار گذاشته‌اند. در این روش، مدل به‌جای انباشت متوالی تاریخچه چت، امکان دسترسی و ویرایش مستقیم فایل متنِ حاوی «کانتکست» خود را از طریق دستورات Bash دارد.

‏مدل می‌تواند در هر لحظه بخش‌های قدیمی را پاک کند، خلاصه‌ای از نتایج بنویسد یا جزئیات مهم را بازنویسی کند. در آزمایش‌ها، مدل‌ها به‌طور خودکار شروع به ایجاد جداول وضعیت یا حذف نتایج جستجوی غیرضروری کردند تا حجم کانتکست خود را در محدوده ۶ تا ۸ هزار توکن نگه دارند.

‏مهم‌ترین نتایج این پژوهش:
‏* افزایش کارایی: مدل Qwen3.5-9B پس از آموزش با این روش، در بنچمارک BrowseComp-Plus رشد دقت قابل‌توجهی داشته و مصرف محاسباتی آن ۳۸.۸ درصد کاهش یافته است.
‏* بهینه‌سازی حافظه: با تکنیک Suffix Cache Reuse، بخش‌هایی از کانتکست که تغییر نکرده‌اند همچنان از KV-cache استفاده می‌کنند که منجر به کاهش ۳۵ درصدی محاسبات سرور می‌شود.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما