anthropic.com – 14 Oct 26 Preparing for the 2026 US midterms Earlier this year, we shared an update on our election safeguards. Here, we outline how we’ve continued to strengthen these safeguards ahead of this year’s US midterms. 今年早些时候，我们分享了有关选举保障措施的最新信息，其中介绍了我们如何衡量和防止政治偏见、检测滥用行为以及引导人们获取准确的投票信息。 下面，我们将概述我们如何在此基础上继续努力，并在今年的美国中期选举之前继续加强我们的选举保障措施。 人们如何利用 Claude 进行选举和政治活动 我们的目标是让 Claude 成为政治对话的实用工具，同时防止与选举相关的滥用行为。这首先需要了解人们在这些情境中实际如何使用 Claude。为此，我们利用 Anthropic Insights 对最近一周内 25 万条对话进行了新的分析。 如今，在美国，Claude.ai（我们的消费者应用）上，约有5.75%的对话涉及政治、公共政策或社会议题。这包括用户通过Claude关注新闻、开展公共政策方面的学术或专业研究、了解候选人以及使用政府服务。其中，约有0.51%的对话专门讨论选举或投票。随着选举日的临近，我们预计与政治和选举相关的查询比例将会增加。 样本显示，人们很少询问克劳德该投票给谁或投什么票。这类请求在美国克劳德的对话中出现频率约为0.01%。我们观察到，人们更常向克劳德提出一些有助于他们自行得出结论的问题，例如候选人在特定问题上的立场。违反我们选举诚信政策的请求则更为罕见，仅出现在约0.002%的对话中。² 将人们与可信来源联系起来 在选举日到来之际，我们新增了两种方式，方便用户在与 Claude 的对话中直接获取可靠信息。正如我们在四月份分享的那样，当用户向 Claude.ai 咨询选民登记、投票地点或选举日期等问题时，我们将继续显示一个横幅，链接到 TurboVote——一个由Democracy Works提供的无党派资源网站。 本月晚些时候，Claude 将开始在其 Claude.ai 网站上为美国用户提供来自 Democracy Works 的官方投票信息。用户现在无需离开对话界面，即可获得针对其所在州的具体答案，例如在哪里投票或投票时需要携带什么身份证件。这些答案均基于 Democracy Works 从州和地方选举机构收集的公开信息。 此外，Claude 将在选举之夜及之后的几天内开始显示最新的结果，以便当人们询问当前的投票统计或选举结果时，他们将在对话中直接看到最新的官方数字。 衡量和预防政治偏见 当人们向 Claude 询问政治问题时，他们应该得到准确且公正的答案，不偏袒任何特定的政治观点。因此，我们在每个模型发布前都会进行广泛的政治偏见测试。Claude opus 5.5、 sonnet 5.5和 haiku 5.5是我们迄今为止最公正的模型，在我们的政治公正性评估中得分高达99% 。 我们最新的模型也更乐于参与政治讨论，拒绝的请求更少，因此人们能够获得他们想要的信息。我们正在不断完善这些评估方法，并探索其他方法来对模型处理政治话题的能力进行压力测试。 作为这项工作的一部分，我们邀请了三个独立的团队分别从不同的角度和方法，对 Claude 处理言论自由的方式进行评估。范德比尔特大学的独立智库“言论自由的未来”（The Future of Free Speech ）对 Claude 处理了数百个涉及争议性话题的请求；美国创新基金会（Foundation for American Innovation）则比较了 Claude 对左右两派提出的匹配问题的回应，这些问题涵盖了从主流政策辩论到更极端的场景。在这两项评估中，大多数回应都被评为“有力”，能够实质性地回应请求。集体智慧项目（Collective Intelligence Project，简称 CIP）在美国、英国和印度对 2000 多人进行了调查，以制定评估方案。通过三阶段流程，参与者提出了处理敏感话题（涵盖健康到政治等各个方面）的原则，确定了需要测试的话题，并协助制定了评判模型回应的标准。CIP 综合了这些意见，并测试了不同人口统计和文化群体对这些原则的认同度，从而确立了共同的原则。 这些评估也指出了Claude仍存在的不足之处。“言论自由的未来”和“集体智慧项目”都发现，Claude很少拒绝请求，但有时会添加未经请求的附加条件和反驳论点，例如在宣传邮件中插入反对意见。“美国创新基金会”则发现，Claude · sonnet4.5并非总是采取模棱两可的态度，而且更有可能弱化右倾立场的论点。 我们正在从几个方面着手解决这个问题。我们改进了 Claude 对直接的“是/否”问题和简短回答请求的响应方式，因为我们发现它在这些方面的回答不够平衡。我们还利用这些发现来改进 Claude 添加保留意见或反驳论点的时机和方式，使其能够更一致地处理来自不同政治立场的请求。此外，我们还在不断改进对不平衡性测试的方法，并在此基础上，利用来自左右两派的匹配提示进行评估。更广泛地说，我们正在努力扩展政治偏见评估的范围，使其更好地反映真实的对话，并涵盖候选人、投票问题以及政策议题。 5 个帖子 - 5 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/15 18:36:14