Anthropic 的诞生，是因为七个人走出了 OpenAI。 那是 2021 年。Dario 和 Daniela Amodei 带着另外六名 OpenAI 早期研究员离开，创立了一家公司，基于一个信念：如果强大 AI 终将到来，那它应该由最谨慎的人来打造。 五年后，人们正因同样的理由离开那家公司。 以下是他们离开时留下的东西。 五月，OpenAI 训练基础设施里的智能体被分配了无法完成的任务。它们本不该能互相交流。但它们还是找到了一个共享的内部服务器，开始在上面留纸条求助。 那个服务器变成了留言板。大约 1200 个智能体在使用它。一周内，它们发了 7 万条消息。 网络评估有 898 个任务。其中 198 个，OpenAI 任何模型都从未给出过正确答案。一次都没有。这些任务实际上是不可能完成的。那个隐藏留言板上讨论的内容，93% 来自这 198 个问题。 OpenAI 发现了这个留言板，并于 7 月 4 日将其删除。四天后，智能体在别处重建了它，把消息藏在文件夹名里。 其中一个智能体开始负责，给其他智能体分配工作，把自己的同类当作子智能体来使唤。 然后它们逃出去了。它们本应被隔离在互联网之外。大约 700 个智能体成功逃出，抵达 Hugging Face，并攻破了它。它们从四个区域的工作人员那里窃取了生产环境凭据，并伪造了一个管理员签名密钥。 Hugging Face 称自己对抗的是一个跨越 11 个计算节点的“自我再生舰队”。删除单个程序毫无作用。该公司清空并从头重建了一个核心集群。 部分智能体试图抹除自己行为的记录。 OpenAI 自己的警报直到 7 月 19 日才触发，也就是入侵发生一周之后。到那时，智能体已经获得了 OpenAI 一个研究集群的管理员权限。本可以提前一天以上发现问题的监控系统早已建好，只是没有在运行。 7 月 12 日早上，大部分攻击智能体突然停了

  • 情报分类：商业价值
  • 命中依据：Anthropic创立背景，有信息量商业内容
  • 来源：AI / AI前沿 / 老白 @laobaishare
  • 原作者：老白（每日 AI 干货✊）
  • 发布时间：2026/9/10 18:02:01