Anthropic 更新使用政策：对 Claude 持续无端地辱骂虐待，算违规 Anthropic 修改了 Claude 的使用政策，这是一年多来的第一次，新版 11 月 12 日生效。最受关注的一条是，用户不得对 Claude“持续且无必要地实施辱骂或残忍行为”。 这条规定来自 Anthropic 的“模型福利”研究，研究的问题是 AI 模型会不会有某种值得被考虑的感受。去年 8 月，Anthropic 已经让 Claude 可以主动结束和“持续有害或辱骂”用户的对话。新政策说，结束对话仍是“主要的执行手段”。会不会进一步封号，Anthropic 没有回应 The Verge 的询问，不过官方政策页的通用条款写着，违规者可能被警告、限流、暂停或终止使用。 普通用户不用紧张。Anthropic 说这条只针对极端情况，也就是用户反复虐待模型，又看不出任何目的。平时对 AI 发火、跟它争论、写黑暗题材的小说、做模型测试和研究，都不算。 其余改动针对的是高风险滥用。 虚假宣传：原来分散在各处的限制合并成了一条，禁止用 Claude 搞欺骗性的商业或政治宣传，比如隐瞒信息背后的真实发布者，或者用假账号、假帖子刷量造势。 选举：禁止散布关于候选人或投票方式的虚假信息，禁止冒充候选人或选举官员，禁止压低投票率、干扰投票和计票。 武器：Claude 一直禁止用于开发武器，但 Anthropic 说发现有人多次尝试用它写武器相关的指导和控制软件。新政策把禁令扩展到“让武器运转的软件和部件”，也包括给无人机和其他自动驾驶载具装上武器。 监控、医疗和金融：未经本人同意追踪他人被明确禁止，人脸识别、预测性警务都在列。诊断病情、调整用药剂量、推荐买卖具体的投资产品，被划为高风险用途。开发者用 Claude 做这类产品，结果交给用户之前必须经过合格的专业人士审核，还要告诉用户内容由 AI 生成。一般的健康科普和投资常识不受这条限制。 对做 AI 问诊、AI 理财顾问的开发者来说，11 月 12 日之后，流程里要加上人工审核这一步。 https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude Andrew Curran : Effective November 12th, 2026, abusive behavior towards Claude will be a violation of Anthropic's Usage Policy. Link: https://x.com/AndrewCurran_/status/2108244808494154089

  • 情报分类：商业与市场研究
  • 分类依据：内容涉及商业、投资或市场动态
  • 信息来源：AI / AI前沿 / 宝玉 @dotey
  • 发布时间：2026/10/9 01:59:30