🪟 پنجره‌ی زمینه (یا طول زمینه) یعنی مقدار متنی که مدل زبانی بزرگ (LLM) می‌تونه همزمان «ببینه» یا «به خاطر بسپاره»، که با واحدی به اسم «توکن» اندازه‌گیری می‌شه.
مثل حافظه‌ی کاری بشره. مدل وقتی داره متن تولید می‌کنه، بخش‌هایی از مکالمه یا سند قبلی رو به یاد داره تا خروجی مناسبی بده.
اگر مقداری که وارد می‌کنی از این حد فراتر بره، بخشی از متن باید بریده بشه یا خلاصه شه تا مدل بتونه ادامه بده.
The context window (also called “context length”) is how much text (in tokens) a large language model (LLM) can “see” or “remember” at once.
It’s like working memory: it lets the model use prior parts of a conversation or document when generating output.
IBM
If you give a prompt + conversation that exceed the context window, the extra parts have to be truncated (cut off) or summarized.
🦴 @scopeofai | #concepts