The time between sending a request and receiving a response from a system. For a chatbot, this can include the time until the first part of the answer appears or until the full response is completed. Lower latency generally makes an application feel faster and more responsive

Cost per Task

هزینه‌ایه که برای انجام یه وظیفه مشخص توسط سیستم پرداخت می‌شه. مثلاً اگه یه ابزار هوش مصنوعی اسناد رو تحلیل کنه، باید هزینه مدل، تعداد توکن‌های مصرف‌شده و هزینه‌های زیرساخت رو در نظر بگیریم تا بفهمیم پردازش هر سند چقدر برامون تموم می‌شه.

The cost of completing a specific task using a system. For an AI tool that analyzes documents, this may include model usage, tokens consumed, and infrastructure expenses. It helps determine how much each completed task costs.

Chunking

یعنی یه متن یا سند بزرگ رو به بخش‌های کوچیک‌تر تقسیم کنیم تا پردازش و جست‌وجو داخلش راحت‌تر بشه. مثلاً توی سیستم RAG، اسناد به چند بخش تقسیم می‌شن و وقتی کاربر سؤال می‌پرسه، سیستم فقط بخش‌های مرتبط رو پیدا می‌کنه و به مدل می‌ده. اندازه و نحوه تقسیم این بخش‌ها روی کیفیت نتیجه تأثیر می‌ذاره.

The process of splitting a large text or document into smaller pieces to make processing and retrieval easier. In RAG systems, documents are divided into chunks so the system can retrieve relevant sections for a user's question. Chunk size and splitting strategy can affect answer quality.

Golden Dataset

مجموعه‌ای از نمونه‌های معتبر و بررسی‌شده‌ست که جواب درست یا معیار مورد انتظار برای هر نمونه مشخصه. ازش برای آزمایش مدل، مقایسه نسخه‌های مختلف و بررسی اینکه تغییرات واقعاً باعث بهتر شدن عملکرد شدن یا نه، استفاده می‌کنیم.

A carefully verified dataset containing trusted examples and expected answers. It is used to test models, compare different versions, and determine whether changes have actually improved performance.

Semantic Loading

معمولاً به بارگذاری اطلاعات بر اساس معنی و ارتباطشون با درخواست کاربر اشاره داره، نه صرفاً بر اساس ترتیب یا محل قرار گرفتنشون. مثلاً یه سیستم به‌جای بارگذاری تمام اسناد، فقط اطلاعاتی رو انتخاب می‌کنه که از نظر معنایی به سؤال کاربر نزدیکن. البته این اصطلاح تعریف استاندارد و یکسانی در همه سیستم‌ها نداره.

Generally, this refers to loading information based on its meaning and relevance to a user's request rather than simply its position or order. For example, a system may load only documents that are semantically related to a question. However, the term does not have one universally standardized definition.

Guardrail

مجموعه‌ای از قوانین، بررسی‌ها و محدودیت‌هاست که مشخص می‌کنه سیستم هوش مصنوعی چه کارهایی می‌تونه انجام بده و چه خروجی‌هایی نباید تولید کنه. مثلاً می‌تونه جلوی افشای اطلاعات محرمانه، اجرای درخواست‌های غیرمجاز یا پاسخ دادن خارج از محدوده وظیفه برنامه رو بگیره؛ البته هیچ Guardrailی تضمین نمی‌کنه که تمام خطاها رو شناسایی کنه.

A set of rules, checks, and restrictions that define what an AI system can do and which outputs it should avoid. Guardrails can help prevent confidential information leaks, unauthorized actions, and out-of-scope responses, although they cannot guarantee that every error will be caught.

Sandbox

یه محیط جدا و محدودشده‌ست که می‌تونیم کد یا عملیات رو داخلش اجرا کنیم، بدون اینکه مستقیماً به سیستم اصلی دسترسی داشته باشه. مثلاً وقتی یه ابزار هوش مصنوعی قراره کد پایتون اجرا کنه، استفاده از Sandbox کمک می‌کنه خطر آسیب به فایل‌ها یا سیستم اصلی کمتر بشه.

An isolated and restricted environment for running code or operations without giving them direct access to the main system. For example, running Python code in a sandbox can reduce the risk of damaging important files or affecting the main application.

Fallback

یه روش یا مسیر جایگزینه که وقتی روش اصلی شکست می‌خوره یا در دسترس نیست، وارد عمل می‌شه. مثلاً اگه مدل اصلی پاسخ نده، سیستم می‌تونه از یه مدل دیگه استفاده کنه یا یه پیام مناسب به کاربر نشون بده تا کل برنامه از کار نیفته.