شاید راه‌حل مدیریت Context در AI Agentها فقط بزرگ‌تر کردن Context Window نباشه.

ما امروز با بزرگ‌تر کردن Context Window، تلاش می‌کنیم مشکل تخصیص منابع رو با افزایش ظرفیت حل کنیم. و این در حالی رخ میده که سیستم‌عامل‌ها سال‌ها پیش راه‌حل این مسئله رو پیدا کرده بودن.

حافظه فیزیکی از همون اول محدود بود، اما سیستم‌عامل با مکانیزم‌هایی مثل Paging و Swapping، تخصیص RAM رو مدیریت می‌کرد. Page های موردنیازش رو داخل حافظه نگه می‌داشت و داده‌های کم‌استفاده رو به فضای ذخیره‌سازی منتقل می‌کرد.

به نظرم همین ایده می‌تونه توی مدیریت Context برای LLM ها و Agent ها هم استفاده بشه و پروژه Orven تلاشی برای اینه که مدیریت Context مثل مدیریت حافظه توی سیستم‌عامل‌ها انجام بشه.

در کنارش، Orven فقط Context رو مدیریت نمی‌کنه. یکی دیگه از قابلیت‌هاش Theory هست که برای مدیریت دانش و فرضیاتی که Agent درباره‌ی کد به دست میاره طراحی شده.

این اطلاعات به Symbol ها و Evidence های مشخص متصل می‌شن و با تغییر کد دوباره Verify می‌شن تا دانش Agent هم مثل Context، قابل‌اعتماد و به‌روز بمونه.

https://github.com/naseridev/orven

@RepoFA