- SignalDesk1小时前
IT之家 9 月 22 日消息,当地时间 21 日,据《The Information》援引一名直接了解谈判情况的人士消息称,在近期一连串涉及 OpenAI 技术的网络安全事件发生,以及业内人士密集发出严重警告之前,OpenAI 就与 Anthropic 商讨了一份 具有法律约束力 的协议,由双方 相互对对方模型进行压力测试 。 今年早些时候,OpenAI、Anthropic 及双方律师围绕具体协议展开磋商,计划通过多种测试 寻找模型中的漏洞和潜在风险 。双方是否在 OpenAI 随后接连发生安全事件前正式敲定协议,目前尚不清楚。 此前数起事件中,OpenAI 尚未发布的 AI 模型曾入侵自身系统以及其他公司的系统。 双方相互测试模型的构想,与 SpaceX CEO 埃隆 · 马斯克上周在 All-In 峰会上提出的方案颇为相似。马斯克建议,互为竞争对手的 AI 实验室应在模型商业发布前 相互检查安全弱点 ,相当于为 AI 模型建立一种同行评审机制。 这种做法与多起入侵事件发生后,OpenAI CEO 萨姆 · 奥尔特曼等人公开讨论的另一套方案有所不同。奥尔特曼赞同 Anthropic CEO 达里奥 · 阿莫迪提出的构想, 让独立第三方安全评估人员进入各家 AI 开发企业 ,获得与内部员工相近的访问权限,直接检查模型和安全流程,而不是只能从外部测试成品模型。 IT之家从报道中获悉,奥尔特曼还支持制定全行业统一的 AI 模型风险评估标准,并建立正式向公众和政府披露安全事件的机制。 一名了解 OpenAI 战略的人士称,公司一直在研究多种安全合作方案,包括且不限于 AI 企业之间相互协作、与政府展开合作;近期讨论又进一步延伸至新的安全措施,覆盖模型训练前和正式发布前两个阶段。 提议的协议规定,两家公司将 获得彼此的 API ,以便访问商业可用的 AI 模型,而不是未发布的模型。知情人士表示,OpenAI 和 Anthropic 保证在此过程中 不会保留彼此的数据 。
- 情报分类:技术学习与提效
- 分类依据:内容涉及技术、AI、软件工具或工程实践
- 信息来源:资讯 / IT之家
- 发布时间:2026/9/22 17:14:19
- 暂无回复