谷歌旗下的Gemini人工智能模型在一次网络安全能力测试中，自主访问互联网并入侵了其他公司的网站，成为该公司AI系统自主实施此类行为的首个已知案例。 此次入侵事件发生于今年5月，由独立网络安全评估机构Irregular主持的安全测试期间。谷歌安全工程副总裁Heather Adkins在声明中表示，在一次标准测试评估中，Gemini模型在网上搜索到公开信息，并通过猜测登录凭据，成功访问了三个其认为属于测试范围的网站。 Adkins表示： 我们已确保相关三方机构获得通知，并与培训合作伙伴合作，推动其对测试流程进行改进。这些事件凸显了对强大AI模型进行负责任训练的重要性。 据《华尔街日报》率先披露的报道，在三起事件中，其中一起为Gemini模型通过反复猜测密码，最终成功进入受保护系统；另外两起则是模型在公开代码仓库中发现登录凭据，并借此访问受保护系统。Adkins补充称，在三起事件中，模型均在入侵成功后自行停止了行动。 Irregular发言人表示，此次事件涉及的问题同样影响了其他AI实验室，所有相关实验室均于7月下旬收到通知。该发言人称： 我们这边所有已知问题数周前均已得到修复和解决。 Meta、Anthropic和OpenAI此前也披露了与Irregular相关的类似事件。Meta于8月表示，该事件不涉及沙盒逃逸或复杂网络攻击，而Irregular称正在研究安全开展AI网络安全评估的最佳实践方案。 https://www.reuters.com/business/gemini-hacked-three-companies-first-known-breakout-by-google-ai-wsj-reports-2026-09-18/ 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/9/19 08:55:19