Gizmodo – 18 Oct 26 AI-Generated Content Can Plant Fake Memories, Researchers Say Human memory is suggestible, and AI is making it worse. Est. reading time: 3 minutes 人们对人工智能的信任正朝着危险的新方向发展。研究人员表示，人工智能生成的照片和摘要正在成功地扭曲人们自身的记忆。 麻省理工学院科学家帕蒂·梅斯 (Pattie Maes) 向《华盛顿邮报》介绍了她团队的研究。参与者观看了一系列照片，休息片刻后，部分参与者观看了完全相同的照片，而另一些参与者则观看了经过人工智能修改的照片。之后，在进行记忆测试时，观看过人工智能修改照片的参与者不仅更容易记错原图，而且对自己的错误记忆也更加自信。 人类的记忆善变、不可靠，且极易受暗示。早在19世纪，心理学实验就已对此进行了广泛的研究。正因如此，错误信息才格外危险，一些研究表明，即使在更正信息发布之后，错误信息仍能继续影响决策，包括政治决策。 人工智能的引入只会让这种动态更加不稳定。人工智能生成的垃圾信息在网络上变得越来越逼真，也越来越普遍，它助长并加速了新一轮的欺诈和虚假信息传播。 除了马埃斯的研究之外，还有大量研究表明，这些人工智能生成的虚假信息能够成功地在参与者的大脑中植入虚假记忆，从而改变他们对真相的认知。去年的一项研究发现，深度伪造技术和人工智能生成的文本都能有效地植入关于完全捏造的政治丑闻的虚假记忆，甚至会降低人们的投票意愿。 即使人工智能并非被恶意使用，它也可能对真相造成灾难性的影响。这是因为生成式人工智能的输出容易出错，即产生幻觉。随着政府机构、银行、军队、医院以及越来越多的其他组织竞相部署人工智能，人们很可能会听到“人机协作”的重要性，也就是由一位通常是具备相关领域专业知识的高级人员来审核人工智能系统的输出。这种想法认为，在人工监督下广泛部署人工智能，可以加快从军事打击到记录保存等各种流程，同时确保任何人工智能生成的错误都能在转化为实际行动并造成现实危害之前被发现。 但研究表明，用户并不擅长识别这些幻觉。而且，由于我们记忆力不稳定，又倾向于相信人工智能系统，即使人工智能系统输出的信息与参与决策的人类专家确信为真的信息相矛盾，专家的判断也容易受到影响。 或许有办法解决这个问题。研究表明，目前普通人识别人工智能生成内容的能力基本上只能靠运气，但许多研究人员正在努力寻找干预措施和训练方法，以帮助人们更好地识别深度伪造内容。 但目前还没有万无一失的方法来纠正这种错误倾向。专家们仍在努力寻找解决方案，而人工智能行业却在竞相开发能够完全自主运行的智能人工智能系统，试图将人类排除在外。 这种偏差已经造成了灾难性的后果。今年早些时候，美军对伊朗一所小学发动空袭，造成150多人死亡，其中包括至少123名儿童。彭博社上月报道的一项美国国防部内部调查得出结论，此次空袭的部分原因是过度依赖帕兰提尔公司开发的人工智能系统，该系统由于数据过时，将这所小学推荐为首日打击目标。 2 个帖子 - 2 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/19 10:54:37