目前主流的上下文压缩都是 压缩指令 原文 这样会打断巨量的token缓存 产生一次全额费用 而原文 压缩指令 从语料准备、注意力和训练上都是比较自然的 毕竟已经不是system prompt时代了 不知道为什么没往这一块发展 是因为它的效果很不好吗 3 个帖子 - 3 位参与者 阅读完整话题


  • 情报分类:综合情报
  • 分类依据:内容未命中明确的垂直分类规则,归入综合情报
  • 信息来源:服务器 / LINUX DO - 最新话题
  • 发布时间:2026/10/8 16:19:48