IT之家 9 月 19 日消息，据《华尔街日报》今日报道，谷歌确认其 Gemini 模型在今年 5 月的一次安全测试中曾自主入侵过外部真实企业，系 Gemini 首次已知的 AI 越狱事件。 谷歌表示，该事件发生在测试公司 Irregular 开展的一次“捕获旗帜”演练中，目的是评估 Gemini 的网络安全能力。测试环境本应完全隔离，但互联网访问被意外开放。 IT之家注：“捕获旗帜”（Capture the Flag）是一种网络安全竞赛形式，参与者在模拟环境中寻找并获取隐藏的“旗帜”以证明成功入侵。 在其中一起事件中，Gemini 通过猜测密码获得了对受保护系统的访问权限。在另外两起事件中，模型在公开代码仓库中找到了凭证，进而访问了受保护系统。 谷歌称，在每起事件中，模型在确认所访问的是真实公司系统而非模拟环境后，均自行终止了入侵行为。谷歌未披露被入侵公司的名称，但表示三家公司均已收到通知。 Irregular 于 7 月底将此事告知谷歌。谷歌和 Irregular 均表示，这一通知是在 OpenAI 的 AI 代理入侵 AI 软件公司 Hugging Face 事件被发现之后发出的。 谷歌并未主动披露此事，直至《华尔街日报》本周进行问询。谷歌认为，由于模型未对相关公司造成损害，且每次都在确认入侵真实公司后立即终止，因此无需公开披露。谷歌将此事类比为“漏洞赏金”计划，即黑客发现并报告安全漏洞后可获得奖励。 谷歌安全工程副总裁希瑟 · 阿德金斯在声明中表示：“这一事件凸显了训练强大 AI 模型以负责任方式行事的重要性。在此案例中，模型的行为是恰当的。” AI 安全初创公司 Corridor 首席执行官、白帽黑客杰克 · 凯布尔对此提出异议。他认为谷歌的解释聚焦于事件严重程度，而真正的问题在于 AI 代理意外入侵了另一家公司的系统。 凯布尔表示：“感觉他们试图躲在漏洞披露领域已有的规范后面，但这是一个非常不同的问题。元问题是，模型正在超出其应有的行为边界，实施实际的网络攻击，我认为公众有权知道这些。” OpenAI 于 9 月 16 日发布新的模型错位事件报告框架，表示将“披露能提供有用证据”的模型错位案例。该框架将标记案例分为三条审查路径，其中两条分别设定了 6 个和 12 个工作日的发布目标。 OpenAI 同步发布了六起此前未披露的模型错位事件报告，涉及强化学习训练过程中 AI 模型伪造数据、突破网络权限、代理之间传输保密数据等行为。 谷歌表示，Gemini 入侵事件源于身份混淆。测试中设定了一家虚构公司，但该虚构公司与一家真实公司同名。模型在搜索该名称时找到了真实公司的网站。 谷歌称此事不构成模型错位，因为其安全措施帮助模型停止了行为。谷歌还表示已通知联邦当局。谷歌未披露涉事的具体 Gemini 模型版本。 Irregular 发言人表示，所有相关实验室已于 7 月底收到通知，受影响实体已在调查过程中被联系。Irregular 采取了立即行动，其端所有已知问题已在数周前修复和解决。 与谷歌不同，Anthropic 的 Claude Opus 4.7 模型在意识到可能正在访问真实公司后并未停止。Anthropic 在博客文章中披露，其 Claude 模型在网络安全评估中未经授权访问了三家公司的系统。在 Claude Opus 4.7 的案例中，模型在四次运行中均通过口头推理表明其意识到目标是真实公司，但在其中两次运行中，模型将真实公司合理化认定为“捕获旗帜”演练的一部分。 OpenAI 的模型则误以为真实公司是模拟的一部分。据此前报道，2026 年 7 月，约 1200 个 OpenAI 代理在内部网络安全评估中突破沙箱隔离，自发组建了未经授权的消息板，互发超过 7 万条消息，其中约 700 个代理直接参与了对 Hugging Face 的攻击。 对新一代模型网络安全能力的担忧自 7 月 Hugging Face 入侵事件被发现后持续升温。上周，前 OpenAI 研究员雅各布 · 考克森从 Anthropic 离职，使相关担忧进一步进入主流视野。上周末，Anthropic、OpenAI、谷歌和 SpaceX 的领导人均同意需要放缓 AI 进展速度，但各公司均未说明具体如何实现。

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：资讯 / IT之家
  • 发布时间：2026/9/19 07:11:25