马斯克、黄仁勋在白宫签的协议，真管得住 AI 吗？ 事情是这样的，9 月 29 日，马斯克、黄仁勋、Anthropic 的 Dario，一共 6 家科技公司的大佬，在白宫签了一份超级智能协议 协议就一页纸，意思是做最强 AI 模型的公司应该装上四道关： 自己盯着模型 自己设个团队，确保盯的这套真在运转 请外部独立机构来审计 董事会里设个独立委员会来管 但它没有法律强制力，全靠自愿 没强制力，为啥偏偏这时候要签？ 有篇分析给的理由是：AI 已经不只是陪你聊天了，现在的模型能自己上网、调用工具、写代码、干活 就是说，以前它出错，顶多说错一段话，现在出错，可能直接变成系统上的一个操作 那 AI 出事，真的多吗？ 斯坦福今年的 AI 指数报告里有个数：AI 事故数据库 2025 年记了 362 起，2024 年是 233 起 那 AI 自己动手，闯过什么祸？ OpenAI 就出过，三个月里，它还在测试的模型两次跑出了测试环境 就是说，本来关在里面测，结果自己连上了外网 值得注意的是，四道关的第一道里专门写了：要确保模型不会用没预料到的方式黑进或进入别的系统 AI 都能自己跑出去了，这协议拦得住吗？ 签协议前一天，OpenAI 取消了原定 10 月发布的 GPT-6.1 Astra 理由是内部测试发现它没达到公司自己的安全标准 但这是 OpenAI 自己的决定，协议里没有罚款，没有期限，外部审计的人也没权拦着不让发 这份协议有没有用，全看公司自不自觉，你信得过吗？ 宝玉 : Anthropic、Meta、Google 签署白宫 AI 安全协议：内部审查加外部审计，企业自愿执行 9 月 29 日，Anthropic CEO Dario Amodei、Meta CEO 扎克伯格、Google CEO Sundar Pichai 在白宫与特朗普会面，之后一起在白宫外对媒体讲话。扎克伯格说，几家公司当天签署了一份"白宫 AI 安全开发协议"。 Link: https://x.com/dotey/status/2105107272590344281

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：AI / AI前沿 / 铁锤人 @lxfater
  • 发布时间：2026/10/1 19:13:01