🪟 تیپ #6

پنجره متن، حافظه کاری عامل هوشمند شماست
پنجره متن یعنی بیشترین توکنی که مدل در یک فراخوانی می‌تواند ببیند و تولید کند، و همین تن‌ها حافظه‌ای است که agent در اختیار دارد. هر چیزی که مدل در آن لحظه می‌داند، از دستور سیستمی و شمای ابزارها تا اسناد بازیابی‌شده و کل گفتگو، باید داخل همین یک پنجره جا شود 🪟. وقتی پنجره پر شد ناچار باید چیزی حذف شود، پس از همان ابتدا برای توکن‌ها بودجه‌بندی کنید تا تاریخچه گفتگو بی‌حساب رشد نکند و کار را خراب نکند.

The context window is your agent's entire working memory
A context window is the maximum number of tokens a model can read and generate in a single call, and it is the only memory your agent actually has. Everything the agent knows at that moment, system prompt, tool schemas, retrieved documents, and the whole conversation, has to fit inside that one window 🪟. When it fills up, something must be dropped, so budget your tokens on purpose instead of letting chat history grow until the agent quietly breaks.

@dslanders