هر چیزی را نباید داخل Context Window نگه داریم

یکی از اشتباهات رایج در ساخت AI Agent این است که تمام تاریخچه گفتگو، نتایج Toolها و اطلاعات قبلی را دائماً داخل Context مدل قرار دهیم.

با طولانی‌شدن Session، سه مشکل ایجاد می‌شود:

Token Cost ↑
Latency ↑
Noise ↑

معماری بهتر، حافظه Agent را به چند لایه تقسیم می‌کند:

Working Memory → Short-term Context

Conversation Summary → Compressed Memory

Long-term Memory → Database / Vector DB

Business Data → Source of Truth

نکته مهم این است که Vector Database هم نباید به «محل ذخیره همه‌چیز» تبدیل شود. اطلاعات ساختاریافته مثل سفارش، پروفایل یا وضعیت پروژه بهتر است همچنان از Database اصلی خوانده شوند.

📌 خود Context Window حافظه دائمی Agent نیست؛ یک Working Memory محدود و گران‌قیمت است.

کانال آموزشی کدنایت | آموزش برنامه نویسی

https://t.me/codenight_ir