CNN 今天独家报道：今年春天美伊战争期间，美军差点在中东强行登检一艘中国船只——起因是一份 AI 生成的虚假情报称该船运载的是核武器部件。 事发时，武装人员已做好登船准备，军机已经升空。就在行动即将执行前，官员才深入核查了情报来源，发现整份报告是一名特种作战司令部分析员用 AI 聊天机器人炮制的。 这名分析员先用聊天机器人将公开来源资料与机密信号情报混合分析，得出了关于船上货物的错误结论。然后又用 AI 把分析结果包装成标准格式的情报报告，在军方内部广泛流转。正因为报告的格式和常规情报产品一模一样，没人在第一时间质疑它的来源。 一位知情人士对 CNN 说，这份报告的内容"完全是假的"，而且"差点引发一场战争"。CNN 至今未能确认那艘船实际运载的是什么货物。美军特种作战司令部太平洋司令部和五角大楼均未回应评论请求。 这件事的背景是五角大楼正在全力推进 AI 军事化。今年 1 月，国防部长 Pete Hegseth 发布了"AI 加速战略"，要求美军成为"AI 优先"的作战力量，将 AI 嵌入从作战规划到情报分析的所有环节。但各部门各用各的系统，安全流程不统一，也没有一套统一的标准来验证 AI 生成的信息。 这起事件暴露的问题：AI 的"幻觉"问题，也就是一本正经地编造不存在的事实，在日常使用中可能只是闹个笑话，但在军事情报链条里，它可以一路伪装成权威报告，推动真实的军事行动，直到最后一刻才被识破。 这还不是 AI 自主决策导致的问题，更值得警惕的是，人类分析员跳过了正常的情报核查流程，直接采用了 AI 的分析报告。 巧合的是，就在上周，Anthropic 也披露曾阻断一个与伊朗有关联的行为者利用其 Claude 模型编制美国海军的目标定位资料，包括用 AI 搭建情报管线追踪舰艇位置、查询卫星图像、研究舰载通信设备漏洞。 跟人类跟不上审查 AI 生成代码的速度一样，AI 正在同时加速攻防双方的情报能力，而目前对 AI 生成情报的人工核查机制，显然还没跟上这个速度。 Katie Bo Lillis : NEW: An AI-assisted intel report sent the military scrambling to intercept a Chinese ship in the Middle East it believed was transporting components of a nuclear weapons program. It turned out to be a hallucination. And it "almost started a war." https://www.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship Link: https://x.com/KatieBoLillis/status/2100995626309661057

  • 情报分类：商业与市场研究
  • 分类依据：内容涉及商业、投资或市场动态
  • 信息来源：AI / AI前沿 / 宝玉 @dotey
  • 发布时间：2026/9/19 07:58:31