🧠 مدلهای زبانی کانتکست: خداحافظی با خلاصهسازی ایجنتها
وقتی پنجره کانتکست ایجنتهای هوش مصنوعی پر میشود، معمولاً با متراکمسازی و خلاصهسازی اطلاعات مهمی مثل متغیرهای پیکربندی یا لاگها از بین میروند یا مدل دچار توهم میشود. متا و دانشگاه واشنگتن راهکار متفاوتی به نام Context Language Models (CLM) ارائه دادهاند که در آن، ایجنت کانتکست خود را مانند یک فایل متنی مستقیماً ویرایش میکند؛ لاگهای چندهزار توکنی را با یادداشتهای تکخطی دقیق جایگزین میسازد و نقش جدیدی به نام notes تعریف میکند.
تست عملی این روش روی ایجنت Pi با مدل محلی Qwen نشان میدهد دقت مدل روی لاگهای انبار به طرز چشمگیری بالاتر از روش متداول خلاصهسازی است، هرچند چالشهایی مانند باطل شدن کش پیشوند (Prefix Cache) را نیز به همراه دارد.
⏱ مدت زمان ویدیو: ۱۳ دقیقه
📩 برای دریافت ترجمه اختصاصی ویدیوی خودتان میتوانید از ربات تلگرام @ViSegaro_bot استفاده کنید.
🚀 ادامه آموزشها در کانال:
📺🌐 @AiSegaro
Post #624
2.38K