- SignalDesk2026-09-13
嗨,你好,这里是Linze。 标题有一点 clickbait,但是没关系 其实我最近一直在做 Agent 上下文相关的思考。然后越做我越发现,很多问题在工具返回结果的那一刻就已经开始了。 比如说,Agent 想要查清一个错误为什么会产生并试图修正,它就要去调用自己有的各种工具。工具把文件和资料返回后,里面可能会包含重试逻辑、认证、日志、序列化和各种辅助函数相关的逻辑。 但真正影响答案的,可能就只有几个判断条件对不对?它读了那么多内容,实际上只有一点点需要放到上下文里。你可能在网络上查了非常多的资料,但需要的只有一点点。你没办法去约束 MCP 工具自己的规范,它们丢进上下文的内容确实会比较多,相应地也会比较复杂。 其实在这种情况下,你只需要让工具去调出它需要的内容。这也是我最近在探索的方向,就是在它调用工具的过程中,去增加一次有明确目的的筛选 给模型一个当前的问题,再给它一份原始的工具调用,然后它只需要在工具调用里面去高光它需要的内容,其他东西我们全部都可以省略掉。 那这样的话,其实你就会发现我们可以省非常非常多的上下文(针对这些无关的内容),而且可以以一个比较好的方式去提高模型的注意力。 先看一个简化的例子。 def can_retry(status, replayable): if not replayable: return False return status == 429 or status >= 500 如果问题是"遇到 500 时会不会重试",你去让 Agent 用 grep 搜 500,很容易找到最后一行。但你会发现它前面其实还有一个条件:请求必须能够重发,程序才会符合最终的判断。 在传统的检索过程中,通常会出现两种情况: 先漏搜,之后再补搜,占用一个多余的回合。 一次性把太多东西塞进上下文,导致模型没办法很好地注意到关键内容。 如果把整个文件都交给模
- 情报分类:技术价值、项目价值
- 命中依据:上下文裁剪模型训练,AI工程实践
- 来源:服务器 / LINUX DO - 最新话题
- 原作者:朱慧月
- 发布时间:2026/9/13 06:56:59
- 暂无回复