💡چت جی پی تی هم دقیقاً از همین ترفند استفاده می‌کنه.

وقتی باهاش حرف می‌زنی، لازم نیست کل مکالمه رو هر بار از اول بررسی کنه.
همون کلیدها و مقدارهای قبلی رو نگه می‌داره و فقط چیزای جدید رو بهش اضافه می‌کنه.

برای همینه که حتی وقتی گفت‌وگو طولانی میشه، چت جی پی تی بازم سریع جواب می‌ده و کند نمیشه.

خلاصه بخواییم بگیم:

کش KV یعنی حافظه‌ی موقتی که باعث میشه مدل لازم نباشه هر بار همه چی رو از اول حساب کنه.