TGViewer
Channel Public Channel
Silicon Brain | جامعه هوش مصنوعی

Silicon Brain | جامعه هوش مصنوعی

@silicon_brain

مغز سیلیکونی|جامعه هوش مصنوعی
اولین رسانه فنی و به روز هوش مصنوعی در تلگرام

گروه بحث و تبادل نظر:
https://t.me/+SWbgmMZt0XU0MGY0

مطالب و بحث های بیشتر در اینستاگرام:
https://www.instagram.com/silicon_brain/

ارتباط با ادمین:
@silicon_brain_admin
Subscribers
7.73K
Photos
1.1K
Videos
131
Links
576

Showing posts older than #2170 · Back to latest

Older Posts 20 shown
Post #2169 1.25K
‏نویدیا مدل Nemotron 3 Diarization رو معرفی کرده یه مدل 100M-parameter برای Speaker Diarization که تشخیص می‌ده توی یک فایل صوتی هر جمله رو چه کسی و در چه زمانی گفته، حتی وقتی چند نفر همزمان صحبت می‌کنن.
این مدل از 8 speaker پشتیبانی می‌کنه و هم برای Real-time Audio و هم فایل‌های ضبط‌شده قابل استفاده‌ست.

توی تست Diarization-Bench بین ۱۲ سیستم رتبه اول رو گرفته و با 14.72٪ Error Rate حدود ۲۴٪ بهتر از مدل بعدی عمل کرده.

کاربردهاش هم می‌تونه شامل Meeting Transcription با اسم گوینده‌ها، Call Analytics، Voice Agents چندنفره و Real-time Captioning باشه.
اگه این مدل رو کنار یک ASR (Speech-to-Text) مدل قرار بدیم، می‌تونیم یک Transcript کامل داشته باشیم که مشخص می‌کنه هر بخش رو چه کسی گفته.


@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 8
  • ❤ 4
Post #2168 1.45K
مدل‌های GPT-6 Sol و GPT-6 Luna با تمرکز بیشتر برای کاهش هزینه اجرای AI Agent

مدل Sol برای کارهای پیچیده‌تر مثل Coding و Agentهای طولانی‌مدت طراحی شده و Luna بیشتر برای کارهای پرتعداد مثل Summarization مناسبه. قیمت API هر دو مدل نسبت به نسل قبلی تقریباً ۵۰٪ کمتر شده. مدل Sol حدود $2/$10 و Luna حدود $0.10/$0.50 به ازای هر ۱ میلیون Input/Output Token هزینه داره.

نکته مهم‌تر از خود مدل‌ها، اقتصاد Agentهاست. وقتی هزینه مدل و Caching پایین بیاد، میشه به Agent اجازه داد مدت بیشتری کار کنه، Context بیشتری پردازش کنه و مراحل بیشتری رو امتحان کنه، بدون اینکه هزینه API سریعاً بالا بره.

از نظر عملکرد هم OpenAI میگه Sol در Coding و کارهای چندمرحله‌ای عملکرد بالایی داره و در بعضی تست‌ها با هزینه بسیار کمتر به مدل‌های رقیب نزدیک شده. Luna هم نسبت به نسل قبلی هم دقت بیشتری داره و هم هزینه اجرای هر Task رو کاهش میده.

در واقع مسیر جدید اینه که دیگه برای هر کاری از قوی‌ترین و گران‌ترین مدل استفاده نکنیم بلکه Model رو بر اساس سختی Task انتخاب کنیم. برای مثال یک Agent می‌تونه کارهای ساده و پرتعداد رو با Luna انجام بده و فقط برای بخش‌های پیچیده‌تر سراغ Sol یا مدل‌های قدرتمندتر بره.

البته این نتایج عمدتاً بر اساس Benchmarkهای خود OpenAI هستن و عملکرد واقعی می‌تونه بسته به نوع Workload متفاوت باشه.
@silicon_brain | از هوش مصنوعی عقب نمانید
  • ❤ 4
  • 👍 3
Post #2167 1.52K
گوگل داره روی حافظه دائمی برای AI کار می‌کنه تا Gemini بتونه اطلاعات و context کاربر رو بین sessionها و دستگاه‌های مختلف به خاطر بسپره، بدون اینکه خود Google به این اطلاعات دسترسی مستقیم داشته باشه.

اطلاعات هر کاربر رمزنگاری می‌شن و کلید رمزگشایی روی دستگاه خود کاربر نگه داشته می‌شه. وقتی Gemini به اطلاعات نیاز داره، اطلاعات به یک محیط امن در cloud فرستاده می‌شه، موقتاً رمزگشایی می‌شه و بعد دوباره ذخیره می‌شه.

گوگل می‌گه حتی کارمندان خودش هم نباید بتونن به این اطلاعات دسترسی داشته باشن. با این حال، بررسی امنیتی هنوز چند مشکل حل‌نشده پیدا کرده و جزئیات مهمی مثل زمان عرضه، نحوه حذف memory و پشتیبانی از دستگاه‌ها مشخص نیست.

اگه اینو درست و بدون بک دور برای خودشون پیاده سازی کنن گام مهمی برای حفظ پرایوسی در آینده خواهد بود. شرکت‌های دیگه هم ناچار به پیاده سازی خواهند بود

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 9
  • ❤ 3
  • 👻 1
Post #2166 1.39K
این مقاله میگه استفاده از dash در مقالات پزشکی تقریباً بعد از عرضه ChatGPT سه‌برابر شده

با بررسی 69,632 مقاله پزشکی preprint فهمیدن علامت em-dash (همین علامت: —) قبلاً توی حدود ۴درصد از مقالات دیده می‌شد. بعد از عرضه ChatGPT، این عدد به‌تدریج بالا رفته و تا سال 2025 به نزدیک ۲۰٪ رسیده.

یافته‌های اصلی:

▫️استفاده از em-dash بعد از رایج شدن ابزارهای AI، بین هزاران مقاله تقریباً ۳ برابر شد.
▫️این افزایش یهویی نبوده و به‌صورت تدریجی اتفاق افتاده. یعنی احتمالاً استفاده از AI writing tools هم کم‌کم بیشتر شده.
▫️این الگو توی تمام تست‌هایی که محقق‌ها انجام دادن دیده شده بنابراین سخت می‌شه گفت صرفاً یه noise آماریه.
▫️توی بخش‌های boilerplate مقالات، تقریباً تغییری دیده نشده یعنی این سیگنال واقعاً قابل توجهه.

البته این تحقیق ثابت نمی‌کنه که یک مقاله مشخص با AI نوشته شده. فقط نشون می‌ده که در مقیاس خیلی بزرگ، writing patterns مقالات دقیقاً در دوره‌ای که ابزارهایی مثل ChatGPT وارد جریان اصلی شدن، تغییر کرده.
لینک مقاله
@silicon_brain | از هوش مصنوعی عقب نمانید
  • ❤ 7
  • 👍 4
Post #2165 1.45K
چرا Jev سریعتر و ارزان‌تر از مدل‌های LLM عمل میکنه؟
دقت کنین این عملکرد بهتر در یه سری تسک‌های خاص مثل کلاس بندی داینامیک، امتیاز دهی داینامیک و چیزایی این شکلی هست، بعضی از دوستان فکر می‌کنن Jev جایگزین کامل LLM تو تمامی تسک ها هست که این یه برداشت سطحی و اشتباهه
@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 14
  • ❤ 6
Post #2164 1.54K
یک Agent هوش مصنوعی، به اطلاعات محرمانه دولتی استرالیا دسترسی پیدا کرده

‏طبق گزارش‌ها، این عامل برای تحقیق درباره هزینه‌های بهداشت و درمان انتخاب شده بوده، با دور زدن محدودیت‌ها، به بخش‌های غیرعمومی پورتال خدمات درمانی Medicare استرالیا دسترسی پیدا کرده و اطلاعات رو دانلود کرده و OpenAI اعلام کرده که این عامل اقداماتی را انجام داده که انتظار نمی‌رفته!

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 5
Post #2163 1.58K
Silicon Brain | جامعه هوش مصنوعی برای ارزیابی عملکرد Jev یک سناریو ساده ساختم و این درخواست رو بهش دادم: Json { "state": "سلام، من هفته گذشته یک لپ‌تاپ از سایت شما خریدم اما هنوز سفارش به دستم نرسیده. در صفحه پیگیری هم از سه روز پیش هیچ تغییری ایجاد نشده. برای کارم به این لپ‌تاپ نیاز…
و نکته خفن تر مقدار توکن ورودی استفاده شده برای این درخواست 705 و خروجی 73 هست. طبق اعلام خود TypeSafe خروجی رایگانه و برای ورودی به ازای 1 میلیون توکن، 0.042$ هزینه داره.

به عبارتی این درخواست فقط 0.00002$ هزینه برای من داشته که میشه حدودا 7 تومن (7 تک تومن!)

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 7
  • ❤ 2
Post #2162 1.58K
برای ارزیابی عملکرد Jev یک سناریو ساده ساختم و این درخواست رو بهش دادم:
 Json
{
"state": "سلام، من هفته گذشته یک لپ‌تاپ از سایت شما خریدم اما هنوز سفارش به دستم نرسیده. در صفحه پیگیری هم از سه روز پیش هیچ تغییری ایجاد نشده. برای کارم به این لپ‌تاپ نیاز فوری دارم و واقعاً نگرانم که سفارشم گم شده باشد. لطفاً هرچه سریع‌تر وضعیت سفارش را بررسی کنید.",
"model": "jev-latest",
"questions": {
"department": {
"type": "choice",
"instructions": "این درخواست باید توسط کدام تیم بررسی شود؟",
"criteria": {
"shipping": "پیگیری ارسال، تأخیر، مفقودی یا وضعیت تحویل سفارش",
"support": "مشکلات عمومی مشتری و درخواست‌های پشتیبانی",
"billing": "پرداخت، فاکتور، بازگشت وجه یا مشکلات مالی"
}
},
"frustration": {
"type": "score",
"instructions": "میزان نارضایتی یا عصبانیت مشتری را بر اساس متن چقدر ارزیابی می‌کنید؟",
"criteria": [
"آرام و صرفاً در حال بیان مشکل",
"ناراضی اما محترمانه",
"بسیار عصبانی یا دارای لحن شدید"
]
},
"is_urgent": {
"type": "noul",
"instructions": "آیا پیام مشتری نشان‌دهنده فوریت یا نیاز به رسیدگی سریع است؟"
}
}
}


و نتیجه رو فقط تو 786 میلی ثانیه جواب داد:
json 
{
"model": "jev-1.13.0",
"answers": {
"department": {
"type": "choice",
"choice": "shipping",
"confidence": 1.0,
"probabilities": {
"billing": 0.0,
"support": 0.0,
"shipping": 1.0
}
},
"frustration": {
"type": "score",
"score": 0.94,
"confidence": 0.9,
"legend": {
"0": "آرام و صرفاً در حال بیان مشکل",
"1": "ناراضی اما محترمانه",
"2": "بسیار عصبانی یا دارای لحن شدید"
},
"probabilities": {
"0": 0.06,
"1": 0.94,
"2": 0.0
}
},
"is_urgent": {
"type": "noul",
"noul": 0.98
}
},
"usage": {
"input_tokens": 705,
"output_tokens": 73
}
}

اصلا نمیشه LLM ها رو با پرفورمنس این مقایسه کرد

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 10
  • ❤ 4
Post #2159 1.38K
گوگل با AX، سیستم Kubernetes رو برای AI Agentها بازطراحی کرده

یکی از مشکلات AI Agentها اینه که ممکنه ساعت‌ها منتظر LLM Response یا تأیید انسان بمونن ولی در این مدت همچنان مصرف می‌کنن و هزینه می‌سازن.

از طرف دیگه Kubernetes اساساً برای Stateless Services و Batch Jobs طراحی شده، درحالی‌که Agentها Stateful هستن، با Toolها کار می‌کنن و ممکنه چند روز اجرا بشن.

راهکار گوگل، یک ابزار Open-source به اسم AX (Agent Executor) هست که مخصوص همین سناریو ساخته شده. AX اجازه می‌ده یک Agent رو وسط اجرا Suspend کنیم و بعداً دقیقاً از همون نقطه Resume کنیم، بدون اینکه State از بین بره.
نتیجه اینه که حتی در صورت کرش شدن، اجرای Agent از بین نمی‌ره و طبق ادعای گوگل می‌شه حدود 10 تا 20 برابر Agent Sandbox بیشتری روی یک Cluster اجرا کرد.
پروژه AX همچنین از MCP Tools، Custom Harnesses، Gemini و Vertex AI پشتیبانی می‌کنه و برای Scale کردن تا میلیاردها Agent Task در هر Cluster طراحی شده.
گیتهاب
@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 7
  • ❤ 1
Post #2158 1.31K
کمپانی AMD تو یک سال گذشته ۲۸۵٪ رشد داشته و جز کمپانی های ۱ تریلیون دلاری شد.
طبق این آمار، از ۱۵ کمپانی بزرگ آمریکا ۱۲ تاش تو چرخه تولید AI هستن...

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 3
Post #2157 1.43K
مدل جدید Grok 4.7 نسبت به نسخه قبلی یعنی Grok 4.6 پیشرفت قابل توجهی تو بنچمارک های مختلف مخصوصا Agentic و Coding داشته

ولی نکته مهم اینه که‏ بهبود عملکرد این مدل با افزایش قابل‌توجه مصرف توکن همراه بوده و میگن برای هر تسک به‌طور میانگین ۸۱ هزار توکن خروجی مصرف می‌کنه که بیشتر از دو برابر مدل‌های قبلی هست.

@silicon_brain | از هوش مصنوعی عقب نمانید
  • ❤ 3
  • 👍 2
Post #2155 1.52K
مدل Jev نیومده، داره کاربردهای فوق العاده خودشو نشون میده

یه پروژه به اسم jev-ultrafast یه Agent از ترکیب از Browser Use + Jev ساختن که می‌تونه مثل انسان Chrome رو کنترل کنه، (ولی خیلی سریع‌تر از انسان!) مثلاً یک پرواز از زوریخ به لندن رو در فقط 7 ثانیه پیدا کرده و هزینه اجرای کار فقط $0.0039 بوده.

تفاوت اصلی با Browser Agentهای معمولی اینه که اونا مدام Screenshot → AI → Action انجام می‌دن. اما Jev به‌جاش صفحه رو به‌صورت Structured Data می‌خونه یعنی لیستی از Buttonها، Inputها و Elementهای صفحه دریافت می‌کنه و در یک Network Call هم Action و هم Target رو مشخص می‌کنه.
نتیجه

تعداد Browser Callها از 1,092 به 101 رسیده و طبق گزارش، حدود 25٪ سریع‌تر شده.
جالب‌تر اینکه برای کارهایی مثل Typing فقط وقتی لازم باشه یک Small/Cheap Model فعال می‌شه.
در نتیجه می‌تونی پروژه رو Clone کنی، یک URL و یک هدف ساده بهش بدی و اجازه بدی خودش Browser رو کنترل کنه؛ از جستجوی پرواز گرفته تا ویکی پیدا و پیدا کردن هتل.
گیتهاب

@silicon_brain | از هوش مصنوعی عقب نمانید
  • ❤ 7
  • 👍 7
Post #2154 1.48K
مدل Jev خیلی سروصدا کرده، معرفی اولیه‌شو تو این پست دیدیم
در مورد ساختار ورودی/خروجی این مدل ۳ پایه اصلی وجود داره:
Choice

انتخاب یک گزینه از مجموعه‌ای که برنامه تعریف کرده
category = choice(
"What is this ticket about?",
{
"billing": "Payment or refund issue",
"technical": "Technical problem",
"other": "Other issue"
}
)

خروجی:
{
"choice": "billing",
"probabilities": {
"billing": 0.94,
"technical": 0.04,
"other": 0.02
}
}

نکته مهمش اینه که برخلاف مدل‌های LLM و احتمال Hallucination، اینجا مدل نمیتونه گزینه چهارمی از خودش تولید کنه

Score

برای یک مفهوم ordered از Score استفاده میشه
frustration = score(
"How frustrated is the customer?",
[
"Calm",
"Concerned",
"Angry",
"Extremely angry"
]
)

اینجا مسئله classification ساده نیست شما یک ordered semantic scale تعریف می‌کنین.

Noul

جالب‌ترین پایه از نظر معماری این یکیه مثلاً:
urgent = noul(
"Does this message explicitly communicate urgency?"
)

خروجی این بین ۰ و ۱ خواهد بود و اپلیکیشن میتونه خودش threshold تعیین بکنه

حالا اگه میگی خب LLM هم می‌تونه با یه structured Json همینکارو انجام بده اشتباه میکنی چون jev اینارو به صورت موازی انجام میده و روش autoregressive نداره که توکن به توکن تولید کنه بره جلو و خروجی به صورت ساختار یافته از هسته مدل میاد بیرون و این خیلی مهمه
بنابراین برای کارهای کوچک و پرتکرار میتونه latency و هزینه بسیار پایین‌تری نسبت به استفاده از LLMهای بزرگ داشته باشه

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 11
  • ❤ 2
Post #2153 1.39K
روش Dream-RSI؛ Agentهایی که از تجربه خودشون یاد می‌گیرن

جدیدا Google DeepMind با Dream-RSI روشی معرفی کرده که به‌جای اینکه هر بار برای پیدا کردن Strategy بهتر، آزمایش‌های جدید و پرهزینه اجرا کنه، از تلاش‌های قبلی AI استفاده می‌کنه.

مدل هزاران مسیر و استراتژی مختلف رو با استفاده از تاریخچه خودش شبیه‌سازی می‌کنه، بهترین روش رو پیدا می‌کنه و بعد همون رو برای حل مسئله واقعی استفاده می‌کنه
این درواقع یه حالت شبیه مربی‌ای که به‌جای برگزاری تمرین جدید، بازی‌های قبلی رو تحلیل می‌کنه.

نکته جالب اینه که خود مدل تغییر نمی‌کنه و نیازی به آموزش مجدد نداره فقط روش Search و Exploration هوشمندتر می‌شه.

طبق نتایج گزارش‌شده، در بعضی سناریوها تعداد AI Calls تا 162 برابر کاهش پیدا کرده و روی مسائلی مثل طراحی الگوریتم، ریاضیات، بهینه سازی مسائل هم آزمایش شده و کل حرفش اینه که به‌جای اینکه AI رو بزرگ‌تر کنیم، می‌تونیم کاری کنیم که از تجربه‌های قبلی خودش بهتر استفاده کنه.
لینک مقاله
@silicon_brain | از هوش مصنوعی عقب نمانید
  • ❤ 8
  • 👍 6
Post #2152 1.46K
آپدیت جدید CortexKG نسخه 0.3.0

تو این نسخه از پروژه شما میتونین
▫️گراف دانش خودتونو در ساختار یک تایم لاین ببینین، چون که دانش ذخیره شده با در نظر گرفتن زمان رخ داد، غنی تر میشه
▫️پارامترهای تنظیم LLM مانند temperature و max_token اضافه شده
▫️قابلیت نصب پروژه به راحتی با Docker اضافه شده: لینک
▫️و اگه دوس دارین مستندات پروژه رو به فارسی بخونین، لینک مستندات فارسی به پروژه اضافه شده
هدف CortexKG اینه که یک حافظه AI قابل مشاهده، قابل کنترل و قابل انتقال در طول زمان بسازه جایی که بتونید ببینید AI چه چیزهایی رو از مکالمات شما یاد گرفته و این دانش چطور به هم متصل شده و حتی بتونین این حافظه رو شخصی سازی و ویرایش کنین

لینک گیتهاب
با استار ⭐️ گیتهاب از این پروژه اوپن سورس حمایت کنین
  • ❤ 6
  • 👍 2
Post #2150 1.4K
مسیر جدید برای Deep Reasoning در معماری ترنسفورمر

مدل‌های معمولی ترنسفورمر تعداد لایه های ثابتی دارن، یعنی عمق Reasoning از قبل مشخصه. اگر مدل بخواد بیشتر فکر کنه، معمولاً باید Token بیشتری تولید کنه که یعنی هزینه و Compute بیشتر.
ایده‌ی Recurrent Looped Transformer (RLT) این ساختار رو تغییر می‌ده. به‌جای اینکه مدل یک Stack ثابت از لایه ها داشته باشه، Layerها رو به‌صورت Loop روی توکن اجرا می‌کنه و همزمان یک Internal Memory می‌سازه که با طول Sequence رشد می‌کنه.

هدف این طراحی اینه که مدل بتونه Reasoning عمیق‌تر انجام بده، بدون اینکه الزاماً توکن بیشتری تولید کنه ضمن اینکه با Parallel Encoding و Memory Reuse برای سخت افزار و منابه در دسترس هم مناسب‌تر باشه.
البته یک نکته مهم: RLT فعلاً یک Design Spec و ایده‌ی تحقیقاتی محسوب می‌شه، نه یک محصول آزمایش‌شده. نتایج اولیه هستن و خود مقاله هم می‌گه مزیت‌های مربوط به Efficiency و Scaling هنوز نیاز به بررسی بیشتر دارن.

این کارا نشون میده که هسته معماری ترنسفرومر باز جای بهتر شدن رو داره

گیتهاب
@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 7
  • ❤ 3
Post #2149 1.58K
به‌نظرم یکی از تغییرات مهمی که AI به همراه خودش میاره، فقط افزایش Productivity نیست، بلکه می‌تونه مصرف‌گرایی رو هم سریع‌تر کنه.

مثلاً چند سال پیش یک برنامه‌نویس برای کار کردن به یک سیستم مناسب و چند Software نیاز داشت. امروز علاوه بر اون‌ها، هزینه‌ی LLM API، Subscription، GPU و ابزارهای AI هم به هزینه‌های کاری اضافه شده. یا وجود سیستم های مثل MCP و Agentic کردن فرآیند ها داره تو زمین مصرف گرایی بیشتر و سریعتر بازی میکنه.

درسته که AI سرعت تولید رو بالا برده، اما برای یک Developer مستقل یا یک شرکت کوچک، آیا این افزایش سرعت همیشه به اندازه‌ی هزینه‌ی جدید، ارزش اقتصادی ایجاد می‌کنه؟ لزوماً نه.


این الگو رو تقریباً همه‌جا می‌بینیم. خیلی از محصولات مدرن دیگه صرفاً برای این ساخته نمی‌شن که 30 سال کار کنن بخشی از مدل کسب‌وکارشون اینه که مصرف بعدی رو ایجاد کنن: Upgrade، Subscription، خرید مجدد و...
تو بحث اجتماعی هم همینه، Recommender Systemها فقط محتوا پیشنهاد نمی‌دن اونا برای گرفتن توجه ما بهینه می‌شن. سوشال مدیا، تبلیغات رگباری، پورنوگرافی و وجود گزینه های مختلف و همیشه در دسترس کالا، سرویس، پارتنر و... زمان و توجه انسان رو با دستکاری دوپامین دریافتی به مصرف پشت سر هم و تکرار این چرخه بهینه میکنه.

دوستان ما تو دنیای جدید زندگی میکنیم که تو پیچیده ترین حد ممکنه، شاید خطر اصلی مصرف‌گرایی تو دنیای فعلی این باشه که دیگه فقط محصول یا سرویس نمی‌خریم زمان، توجه و حتی عادت‌هامون هم تبدیل به کالا شدن.

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 11
  • ❤ 2
  • 👏 2
Post #2148 1.43K
چرا در RAG فقط یک روش Search کافی نیست؟ چطور میتونیم متریک ها مختلف رو با هم جمع بزنیم؟

فرض کنید کاربر یک کوئری می‌فرسته و میخواییم یه سری اسناد مربوط رو بازیابی کنیم. یه مشکل اینجاست که روش‌های مختلف Retrieval، هرکدوم از یک زاویه به کوئری نگاه می‌کنن و ممکنه نتایج متفاوتی بدن.

مثلاً BM25

بیشتر روی Keyword و میزان تطابق کلمات تمرکز می‌کنه. اگر کاربر دقیقاً یک عبارت یا اصطلاح خاص رو جستجو کنه، BM25 می‌تونه خیلی خوب عمل کنه.
در مقابل، Vector Search

متن کوئری و اسناد رو به Vector تبدیل می‌کنه و بر اساس Semantic Similarity دنبال محتواهایی می‌گرده که از نظر معنایی به Query نزدیک هستن حتی اگر دقیقاً از همان کلمات استفاده نشده باشه.

مثلاً اگر Query این باشه:
How can I reduce my electricity bill?
ممکنه BM25 بیشتر دنبال اسنادی بگرده که کلمات electricity و bill رو دارن، ولی Vector Search می‌تونه اسناد درباره‌ی energy consumption optimization رو هم پیدا کنه، چون از نظر معنایی مرتبطه.

اما اینجا یک مشکل جدید داریم: Score این دو سیستم قابل مقایسه مستقیم نیست.
مثلاً:
BM25 Score = 17.4
Vector Similarity = 0.83
این دو عدد مقیاس و معنای متفاوتی دارن بنابراین نمی‌تونیم به‌سادگی اینارو با هم جمع کنیم.
اینجاست که Reciprocal Rank Fusion (RRF) وارد می‌شه.
و RRF به‌جای اینکه به مقدار Scoreها نگاه کنه، به Rank هر Document نگاه می‌کنه:
RRF(d) = Σ 1 / (k + rank(d))

یعنی اگر یک سند هم در BM25 و هم در Vector Search رتبه خوبی داشته باشه، امتیاز نهایی بالاتری می‌گیره.
مثلاً اگر یک Document در BM25 رتبه 1 و در Vector Search رتبه 3 باشه، از هر دو Retrieval امتیاز می‌گیره و در Ranking نهایی بالا میاد.

در واقع RRF خودش Document رو از نظر معنایی ارزیابی نمی‌کنه؛ کاری که انجام می‌ده اینه که Ranking چند Retrieval System مختلف رو با هم Fusion می‌کنه.
به همین دلیل RRF یکی از روش‌های ساده و کاربردی برای ساخت Hybrid Retrieval در سیستم‌های RAG محسوب می‌شه.

@silicon_brain | از هوش مصنوعی عقب نمانید
  • 👍 10
  • ❤ 4
Post #2147 1.44K
تمامی مدیران شرکت های غول AI همگی موافقت خودشونو برای طرح ترمز AI،جهت جلوگیری از پیشرفت بیش از اندازه هوش مصنوعی تایید کردن
  • 👍 16
  • 😁 7
  • 👎 2
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →