我发现我的上下文压缩方法有一个好处:我刻意不提供 LLM 生成摘要,只告诉它你自己往回爬工作记录,这样可以 Break the bad circle。
对,我是说现在各个厂家训练的上下文续期都很糟糕,我正在尝试让它恢复到「模型开了一个新 session 对着旧聊天记录重新 sort mind」的状态。
如果要比喻的话,它就像是一个人熬夜工作,和好好休息了一下,第二天过一遍工作记录继续工作。区别是很明显的。
现在的模型生成上下文太容易积累垃圾了
Post #35093
306
- 🍌 1