大家通常以为，Anthropic 成立初期为了攻克通用的AI，写代码只是后来为了对抗竞争而寻求的出路。 但最近因诉讼公开的 Anthropic 2021 年创始期内部路线图，揭示了完全相反的事实：他们从第一天起，就把 AGI 的验证原型直接定义为AI 程序员。 这份由联合创始人 Jared Kaplan 撰写、Dario Amodei 等全员参与评审的机密规划中，明确将终极目标定为安全有益的 AGI，而通往这个目标的首个 Proof of Concept，就是一个能与人类自然对话、端到端创建、修改、解释软件并具备同事级水准的通用代码智能体。 为什么最讲究安全对齐的团队，起步却死磕写代码？ 答案藏在当时核心团队的内部批注与争论里： 1. 拿代码当安全试金石：Dario 和 Sam 当时最头疼的问题，是怎么让大模型安全地在真实机器上跑代码。写代码有明确的报错、测试和边界，模型调用工具对不对、强化学习能不能跑通，直接看程序能不能跑起来就行。 2. 避免对齐变成空谈：研究员 Amanda 当时就提醒过，如果我们只在聊天里做安全对齐，但在代码里疯狂堆能力，对齐就会彻底脱节。安全和能力必须在同一个真刀真枪的场景里一起做。 3. 战术先于全能助手：当时团队内部讨论过，是先做简单的代码补全（比如去查类型定义），还是先做会自己调试的 Agent。最后 Dario 拍板：短期先搞定跑代码、看报错、改代码这个闭环，长期再做完整的工程师助理。 今天我们看到的 Claude Code、各类编程 Agent 以及在代码环境下大行其道的强化学习，其底层技术演进逻辑，早在五年前 Anthropic 团队内部就已经推演成型。 loops : Anthropic released their 2021 research roadmap earlier this year (because of copyright litigation); I think some people might find it interesting: https://i.sm4.ca/concise-research-roadmap.pdf Link: https://x.com/_smitop/status/2110114046267543759

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：AI / AI前沿 / 铁锤人 @lxfater
  • 发布时间：2026/10/14 16:56:13