想问下大家做多轮对话或日常深度使用时,是怎么平衡上下文长度和 Token 成本的: 开新窗口: 缓存直接失效,必须重新喂一次系统提示和背景,白白花一堆开销; 原地压缩:用小模型做摘要或者滚动截断,聊久了上下文污染严重,逻辑经常断层。 大家现在主流的做法是怎么平衡“缓存命中率”和“上下文纯净度”的?求指路成熟思路 7 个帖子 - 6 位参与者 阅读完整话题