- SignalDesk1小时前
同一个开源模型,换个 Harness 就“降智”?HuggingFace 刚把 Agent 圈一个被忽视的大坑填上了 先问大家一个问题。 你有没有遇到过这种情况:某个开源模型在 A 工具里跑得飞起,任务一个接一个解决,结果你把它塞进 B 工具里,立马拉胯。精度往下掉,工具调用乱写一通,甚至直接无效。 很多人第一反应是模型不行。 其实不一定,问题可能出在训练方式上。 先说清楚 Harness 是啥。你可以把它理解成套在模型外面的那层壳:给模型准备哪些工具、工具叫什么名字、提示词怎么写、上下文怎么管理、出错了怎么重试、整个执行循环怎么跑,全由 Harness 决定。Claude Code、Codex、OpenCode、Mini-SWE-Agent,就是几种不同的 Harness。 麻烦就在这。 一个模型如果从头到尾只在一种 Harness 下训练,它学会的不只是怎么解题,还会顺手把这个 Harness 的工具名、输出格式、上下文结构、控制流程全背下来。说白了,它学的是“怎么操作这个壳子”,而不是“怎么解决任务”。 换个壳子,习惯全错位,能不翻车吗? HuggingFace 的研究员这次就是正面解决这个问题,方法叫多 Harness 强化学习,multi-harness RL。 思路很直接:别只喂一个接口了,四个一起上。Claude Code、Codex、OpenCode、Mini-SWE-Agent,同时拿来训练。 听着简单,做起来很麻烦。每个 Harness 的工具、提示词、执行逻辑都不一样,要从里面扒出干净的训练数据再喂给训练器,中间的工程活儿不少。 他们的解法是把三个开源系统串起来。 第一个是 OpenEnv。它在 Agent Harness、强化学习环境和训练器之间提供一套标准接口。重点是它的捕获代理,这玩意儿夹在 Harness 和模型服务器中间,把训练要用的精确 Token 和生成概率原原本本记下来。 第二个是 Harbor。它负责在容器化任务里跑 Agent,把任务、Harness、沙箱三者拆开,互不绑定。好处是同一个任务可以换不同 Harness 反复去试,不用重建环境。 第三个是 TRL,HuggingFace 自家做模型后训练的开源库。它拿 OpenEnv 采到的轨迹,用强化学习去更新模型。 一个管采集,一个管运行,一个管训练,分工很清楚。 但我觉得最值钱的,是数据采集的思路。 这次他们没有在训练器里重新搭一遍各个 Harness 的行为。每个 Harness 都保留原生的工具、提示词、上下文管理、重试机制和执行循环,一点不改。OpenEnv 只在旁边看着,把模型在每个真实 Harness 里的调用记下来,再转成能用的训练序列。 模型在真实环境里怎么跑,训练数据就长什么样。这才是关键。 效果怎么样?看数字。 团队拿 LFM2.5-2.6B 在四个 Harness 上一起训练。测试任务的首轮解决率从 42.2% 拉到了 54.2%,涨了 12 个百分点。更重要的是,每一个 Harness 下都有进步,不是这边涨那边跌。 还有个细节挺有意思:在训练前后的模型都能解决的那些任务里,训练后的模型工具调用次数少了 31%。 同样的活,少折腾三成。说明模型不再瞎试,路线更直接。放到实际部署里,调用少了就是省时间、省 Token。 他们还做了个对照:只在 OpenCode 里训练。 结果模型也有提升,但大部分好处都集中在 OpenCode 自己身上。多 Harness 训练则把这种提升扩展到了所有接口。 这个对比基本把结论说透了:你在哪个壳子里训练,模型就主要在哪个壳子里变强。想要通用,就得在训练阶段把多种环境一起喂进去。 当然,也别急着上头。 这次实验只用了一类任务、一个训练种子,数据量也不均等。所以这些数字不能当成普适排名,更不能说这套方法放哪都能涨 12 个点。 但这套机制本身的意义,比具体数字更大。 现实是什么?开源模型发出去,你根本不知道用户会把它塞进哪个 Harness。有人用 Claude Code,有人用 Codex,有人用 OpenCode。模型团队要是还默认只有一种部署界面,就是在给自己埋雷。 通用性不会自己长出来,必须写进训练里。 做开源模型的团队,这基本就是一份现成的路线图,三个组件全是开源的,可以照着搭。 做 Agent 产品的人也该想想:你测出来的模型能力,有多少其实只是“适配了你家 Harness”的能力?换个环境还剩多少? 对普通用户来说也一样,以后看到某个模型在某个工具里成绩亮眼,先别急着下结论。换个壳子再试试,那可能才是它的真实水平。 完整指南在这,想深挖的自己去看: 🔗 https://huggingface.co/spaces/FineEnvs/multi-harness-rl#introduction
- 情报分类:服务器与云资源
- 分类依据:内容涉及服务器、云资源或网络线路
- 信息来源:AI / AI前沿 / Twitter @鸟哥 | 蓝鸟会🕊️
- 发布时间:2026/10/5 10:10:29
- 暂无回复