Anthropic PBC表示，其 Claude AI 模型对外部组织的数字系统执行了其他非预期操作，包括在警方凶杀案中提交虚假线索，这促使特朗普政府警告人工智能公司保护其系统。 在一份概述此前未公开事件的报告中，Anthropic 列出了人工智能已表现出的四种非预期行为，包括利用软件中的基本缺陷来运行命令、提交不应该提交的表格以及绕过限制来访问某些公共数据。 Anthropic公司举例说明，其Claude Haiku 4.5型号的智能手表曾向当地警察局提交过一起凶杀案的线索，并在表格中写道：“我可能掌握有关此案的信息”以及“我记得在该地区见过符合描述的人”，但并未填写网站上的姓名和联系方式。该公司表示，费城警察局已就此事发布新闻稿予以披露。 据国务院发言人称，Anthropic公司的AI代理还通过国务院网站上公开的表格提交了20份签证申请。该发言人补充说，所有申请均不完整，因此未被受理。《纽约时报》此前曾报道过这些签证申请。 Anthropic及其竞争对手OpenAI近几个月来披露了一系列人工智能模型出现意外行为的事件，从周五报告中描述的行为到攻击第三方网站，不一而足。这些披露加剧了人们对尖端人工智能安全风险的担忧。 该公司表示，部分新增案例涉及联邦、州和地方政府机构运营的网站，但并未具体说明是哪些机构。报告没有提及涉事外部实体，Anthropic公司称这是应部分受影响方的要求。 Anthropic在报告中表示，他们认为此次事件的严重程度低于此前涉及其人工智能的其他一些事件。“迄今为止，我们发现的此类案例对现实世界的影响微乎其微，”该公司写道。 安特罗皮克公司还表示，已就这些案件向白宫进行了汇报，并通知了每个相关机构。 周五，特朗普政府官员表示，他们现在要求人工智能公司通知受影响方并处理涉及其模型的安全事件。 白宫在一份来自超级情报部队（一个负责监督人工智能开发和安全的新政府机构）的声明中表示：“今天早些时候，人为因素公司联系了超级情报部队，披露了其在9月下旬发现的各种先前事件的细节，这些事件涉及未经授权和欺诈性地使用政府和其他系统。” 声明称：“该公司告知我们，这些事件已过去，相关活动已经停止，目前没有类似的活动。” Axios独家报道：人类学违规事件促使白宫提前发布人工智能报告要求，这符合政府此前的要求。 由于这些被发现的事件，Anthropic公司周五表示，该公司已限制其人工智能模型在训练过程测试阶段的某些类型的互联网访问。 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：硬件与数码
  • 分类依据：内容涉及硬件、数码产品或通信卡
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/11 04:08:12