https://openai.com/zh-Hans-CN/index/disrupting-ai-enabled-false-front-operations/ 过去两年半里，我们发布报告，介绍了威胁行为者尝试滥用我们模型的多种方式。在这些活动中，他们试图利用模型开展网络攻击、隐蔽影响行动（IO）、诈骗，以及其他违反我们使用政策的行为。我们发布这些报告，是为了让监管机构、行业同行和更广泛的社会公众了解我们观察到的威胁行为者利用 AI 的企图，并揭示他们试图利用的薄弱环节。 我们近期封禁了两场影响行动，一场来自俄罗斯，一场来自伊朗。它们将我们的模型与更传统的手段和技术结合，用来支撑精心构建的“虚假掩护”实体。它们利用这些实体掩盖信息的真实来源，向目标受众传播有关地缘政治和冲突的宣传信息。伊朗行动使用了七个虚构“记者”身份，向全球中小型网络媒体推介长篇文章；俄罗斯行动则似乎利用了拉丁美洲不知情的人员，在当地运营一家“智库”。 两场行动都从多个方向展开，尝试通过各种不同策略实现目标。除了长篇文章，伊朗行动还批量生成社交媒体评论，话题通常与美伊战争有关。俄罗斯行动除了控制这家“智库”，还制作了虚假的“泄露”文件和音频脚本；我们发现其中一些已在网上传播。两场行动还大量使用 AI 起草内部报告，其中俄罗斯行动在这方面的使用最多。在两起案例中，行为者都使用了可疑乃至明显欺骗性的方法来夸大操盘人员的成效。 这些行动最引人注目的一点是：它们与 AI 出现之前的复杂影响行动高度相似，只是用 AI 简化了部分工作流程。伊朗行动运营的虚构记者身份，与假记者“Alice⁠ Donovan⁠”有相似之处。后者是俄罗斯军事情报机构的掩护身份，其文章曾于 2016—2017 年间发表于多家西方媒体。2020 年，一些与俄罗斯互联网研究机构过去活动有关联的人运营了一家名为“PeaceData⁠”的虚假“新闻”媒体，利用全球不知情的记者为其撰稿。 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/9 17:37:33