هزینه‌ی RAG رو کی پرداخت می‌کنید؟

هر دستیار هوش مصنوعی که از بر اسناد و مدارک به پرسش‌های کاربر جواب می‌ده، باید یه جایی اطلاعات توی مدارک رو به هم ارتباط بده و نگه‌ داره. شما فقط می‌تونید انتخاب کنید که چه زمانی این کار رو انجام بدید: قبل از اینکه کسی سوال بپرسه، یا بعد از سوال پرسیدن کاربرها و موقعی که اون‌ها منتظر جوابن.

انتخاب این زمان، یکی از ساده‌ترین راه‌هایی هست که می‌شه باهاش GraphRAG و Agentic GraphRAG توضیح داد.

یه RAG معمولی، کمترین کار رو در این مورد انجام می‌ده. مدارک رو ایندکس می‌کنه تا پیدا کردن بخش‌های مشابه راحت‌تر بشه، برای هر سوال یه جستجو انجام می‌ده و می‌ذاره خود مدل هر چیزی که پیدا شده رو به هم مرتبط کنه. این روش ارزونه، و تا زمانی که سوال‌های کاربران پیچیده نشه خوب جواب می‌ده.

رویکرد پیشاپیش هزینه کن. سیستم GraphRAG مدارک‌تون رو از قبل می‌خونه و یه نقشه (map) درست می‌کنه: این فرد مدیر اون پروژه‌ است، این قطعه مال اون تامین‌کننده‌ است. ارتباط‌ها قبل از اینکه کسی سوالی بپرسه آماده‌ شدن. اما هر بار که اسنادتون تغییر می‌کنه، دوباره براتون صورت‌حساب می‌آد چون هزینه‌ی به‌روز رسانی نقشه رو دوباره بپردازید.

رویکرد بعدن هزینه کن، و به هزینه کردن ادامه بده. یه ایجنت (عامل هوشمند) از خیر نقشه می‌گذره. خودش جستجو می‌کنه، چیزایی که پیدا کرده رو می‌خونه، می‌فهمه چی کمه، و وقتی که کاربر منتظر جوابه، دوباره می‌گرده.

سیستم Agentic GraphRAG هر دو کار رو با هم انجام می‌ده. دو تا صورت‌حساب برات صادر می‌کنه، که البته بعضی وقت‌ها واقعن می‌ارزه.

ته‌اش همه چی به دو تا موضوع ختم می‌شه: اول اینکه اسناد و مدارک شما هر چند وقت یک‌بار تغییر می‌کنن، و دوم اینکه هر چند وقت یک بار یک سوال به اطلاعاتی نیاز داره که از چند تا منبع می‌آن. اولی همون هزینه ساخت و نگهداری نقشه است. دومی نشون می‌ده که این نقشه چقدر کارتون رو راه می‌اندازه.

شما ترجیح می‌دید اول هزینه کنید یا بعدن؟ و آیا این تصمیم رو آگاهانه می‌گیرید یا نه؟

نقل قول:

خیلی کم پیش می‌آد که یه راه‌حل کامل و بی‌نقص وجود داشته باشه. توی هر انتخابی باید از یه چیزی بگذری تا یه چیز دیگه رو به دست بیاری.
توماس سوول


https://t.me/bibalan_com
https://bit.ly/47sX7Qk