🤖 پنجره کانتکست یا مموری؟ راز فراموشی ایجنت‌ها

مدل ۱ میلیون توکنی دارید، اما ایجنت هنوز بعد از چند ساعت «فراموش» می‌کنه. چرا؟
چون دارید فقط «میز کار» رو بزرگ می‌کنید، نه «کمد بایگانی» رو!

🔹 Context Window (RAM):
حافظه کاری و فرّار. با بسته شدن سشن پاک می‌شه.
🔹 Agent Memory (Hard Drive):
حافظه ماندگار در دیتابیس خارجی.

چرا کانتکست بزرگ کافی نیست؟🧮

۱. هزینه: پردازش 1M توکن در هر قدم سرسام‌آوره.
۲. پدیده Lost in the Middle: یعنی مدل‌ها وسط متن‌های طولانی رو خوب نمی‌بینن.

راه‌حل چیه؟🧠

معماری‌های مدرن (مثل TencentDB یا MemGPT) حافظه رو لایه‌بندی می‌کنن. ایجنت مثل یک سیستم عامل تصمیم می‌گیره چه دیتایی تو RAM (کانتکست) بمونه و چه چیزی به هارد (مموری) منتقل بشه.

در نهایت، لبه‌ی تکنولوژی از پرامپت‌نویسی به Memory Engineering رسیده؛ یعنی طراحی کنیم ایجنت چطور یاد بگیره و چی رو فراموش کنه.🚀

📌مرجع تخصصی هوش مصنوعی و علم داده
❇️ سایت | بله | تلگرام | اینستاگرام