2026 年使用政策更新
每年,Anthropic 都会根据我们模型不断演进的能力以及从客户那里收到的反馈,更新其使用政策。我们今天发布新版政策。在这篇文章中,我们总结了所做的变更。
最新版本中的大部分更新旨在澄清现有规则。自上次更新以来的一年里,Claude 承担了更长时间、更独立的工作。本次更新提供了新的示例,说明我们的规则如何适用于 Claude 的新能力。它借鉴了我们在过去一年中观察到的影响行动、武器开发和监控领域的新滥用模式(正如我们在最新威胁情报报告中所记录的那样)。我们还更新了在健康和金融等领域对高风险用例的要求,增加了当 Claude 被用于自主采取物理行动时的控制措施,并处理了针对我们模型的滥用行为。
更新后的政策于 11 月 12 日生效。完整的使用政策和支持地区政策可在各自页面上找到。
关于欺骗性活动的新章节
正如我们上个月所写,我们看到了国家媒体机构、政府宣传办公室和商业公司利用 Claude 运营虚假账户网络和伪造新闻网站的例子。我们的政策已经禁止此类活动,但相关限制分散在我们的选举、欺诈、隐私和虚假信息章节中。
我们将这些规则整合到一个名为“不得参与欺骗性活动或人为活动”的新章节中,该章节适用于任何类型的欺骗性活动(无论是政治还是商业)。它涵盖试图掩盖信息背后主使者、通过虚假账户或帖子放大内容,以及构建用于运行影响行动的工具和基础设施。
重新聚焦我们的选举章节
我们在每个版本的使用政策中都完善了政治内容限制,以确保我们的模型能够在民主进程中得到适当使用。在此版本中,我们进一步明确了选举章节,将其重点特别放在禁止使用 Claude 欺骗选民或破坏选举上(例如,传播关于候选人或投票方式的虚假信息、冒充候选人或选举官员,或试图压制投票率)。我们将其更名为“不得破坏民主进程”,以反映这一范围。
出于类似原因,我们还取消了针对个性化投票和竞选定向的全面禁令。该禁令涵盖了合法的公民工作,例如非营利组织使用 Claude 用其他语言为选民撰写信息,或选举官员发送选票补救通知。促使最初规则出台的行为(如依赖欺骗或滥用选民个人数据的选民定向)仍根据我们的欺骗性活动、监控和隐私章节被禁止。
澄清我们的武器禁令
我们的使用政策一直禁止使用 Claude 开发武器。最近,我们看到有人试图利用我们的模型为武器构建制导与控制软件。更新后的条款明确规定,我们的禁令涵盖使武器得以运作的软件和组件,以及诸如为无人机和其他自主载具配备武器等行为。这些变更反映了我们此前一直执行原有政策的方式。
关于监控与执法更精确的措辞
我们九月的威胁情报报告记录了越来越多地使用 AI 构建识别和追踪政治异见者的监控系统的情况。我们重写了监控与刑事司法部分,以更精确地说明我们禁止的内容。例如,未经他人同意追踪他人是被禁止的,无论是实时进行还是通过分析此前收集的数据进行。在执法或刑事司法程序中,Claude 不得被用于决定或建议调查、逮捕或起诉谁。我们还禁止将 Claude 用于构建或改进专为监控设计的工具。
与之前对武器禁令的更新一样,本次更新并不反映我们在实践中执行内容的改变:它只是旨在让我们的政策更加明确。新条款还明确列出了哪些用途仍然被允许,包括人们已同意的追踪(例如欺诈监控)、内容审核、新闻工作和法律研究。
对高风险用例更清晰的要求
当我们的产品被以可能影响某人健康、法律权利、财务、生计或获取基本服务的方式使用时,我们要求必须有合格的“人在回路中”(即有权审查并在必要时更改 Claude 建议的人),并且必须告知受影响的个人使用了 AI。
这些要求并未随使用政策更新版而改变。然而,用户经常询问我们某个特定用例是否有这些要求,因此我们重写了高风险用例要求部分,以更直接地回答这一问题。它现在列出了哪些类型的建议被涵盖、哪些不被涵盖。
在我们的模型硬件标准发布之后,该部分还增加了关于将我们的模型连接到可采取自主物理行动且可能造成伤害的硬件时的使用要求。合格的操作员必须能够观察设备并在需要时将其停止;如果 Claude 断开连接,设备也必须能够保持安全状态。
应对针对我们模型的滥用行为
我们新增了一项禁止针对我们模型持续且无必要地滥用或残忍行为的条款。该政策更新仅适用于极端情况,即用户反复以残忍方式对待我们的模型,且没有可辨识的目的。它不适用于常见的用户挫败感、反对意见、黑暗创作主题或模型测试与研究。
这一新增内容与我们已采取的一项措施相一致,即允许 Claude 模型在 Claude.ai 和 Claude Code 上终止与持续滥用用户的罕见对话。此类滥用行为是本次更新的主要关注点;Claude 终止这些交互的能力仍将是主要的执行机制。
阐明我们的受支持地区政策
去年,我们更新了受支持地区政策,以限制由总部位于我们不受支持地区的实体多数持股的公司访问 Claude。我们已更新受支持地区页面,以阐明我们如何执行该政策。我们的政策禁止以下人员使用 Claude:实际位于不受支持地区的人员、在该地区注册或设立总部的实体,以及由这些地区的人员或实体多数持股或控制的实体。
展望未来
随着 Claude 的能力和风险发生变化,我们将持续更新我们的使用政策。与本次及此前的更新一样,我们将广泛征求 Anthropic 内部以及政策制定者、领域专家、公民社会和我们产品用户的意见。
相关内容
为 2026 年美国中期选举做准备
今年早些时候,我们分享了选举保障措施的更新。在此,我们概述了在今年的美国中期选举之前,我们如何继续加强这些保障措施。
Anthropic 开设新加坡办事处并与新加坡政府签署谅解备忘录
Anthropic 已在新加坡开设办事处,并与该国政府签署谅解备忘录,以推进安全、负责任的人工智能应用。
在支持美国科学发现承诺的基础上再接再厉
Anthropic 承诺在三年内向 Genesis Mission 投入 1.5 亿美元,这是一项旨在通过人工智能加速科学与技术发现的联邦计划。
