关于独立评估者的最新进展
上个月，我们承诺对我们的模型和安全实践进行更强大的独立第三方评估。我们还签署了《超级智能白宫协议》，其中各公司承诺与独立的外部审计师或评估者合作。今天，我们宣布已开始向METR的一个团队提供类似员工的访问权限，METR是一家评估前沿AI模型的非营利组织。
METR将发布其风险评估结果。在过去一年中，我们与METR合作进行了多项风险报告审查。我们还与SecureBio和埃森哲作为评估者合作，并正在与其他几个组织进行早期讨论，包括Hugging Face。
在此，我们解释与评估者合作的方法。
为什么我们与独立评估者合作
随着模型变得更强大，它们需要更强的保障措施和更具挑战性的风险评估。我们希望对我们所做的决策公开负责。但我们不能公开分享所有与安全工作的相关信息。其中一些可能对恶意行为者有用，或是商业敏感的，如计算或训练信息。相反，我们给予第三方评估者深入访问我们信息的权限，并让他们分享关于构建我们模型所涉及风险的证据和合理结论。我们的目标是缩小评估者对前沿AI公司系统的理解与公司自身理解之间的差距。
为了评估前沿模型，评估者需要以下条件：
专业知识：评估前沿模型的能力，包括理解评估可能出错的方式，例如对齐伪装。独立性：他们不应持有被评估公司的股权，也不应在财务或运营上依赖该公司。- 足够的
访问权限：以有意义地评估风险。除了访问最新模型外，评估者还需要了解这些模型是如何训练的、我们的保障措施如何运作等。发表自由：观察和评估
尽管类比并不完全准确，但银行监管的运作逻辑类似。银行比外部人士更了解自身的风险状况，因此监管机构指派驻场检查员在最大的银行内部工作。如果银行的风险承担可能威胁公众，第三方会试图提前发现。
对于AI行业，这是朝着稳健的安全监督迈出的一步。我们正与多个评估者快速推进，并积极学习什么样的合作方式有效。我们承诺随时分享最新进展。
我们所说的“类似员工的访问权限”是什么意思
我们已引入六名 METR 员工，为他们提供公司硬件、办公空间，以及对内部工具和系统的访问权限，其权限大致与我们自己的风险评估团队相当。除少数明确定义的类别（例如，客户数据、受律师-客户特权保护的信息，或有关我们模型架构的信息）外，Anthropic 员工被鼓励像对待从事对齐风险工作的同事一样与他们共享信息。1
METR 将发布其对我们风险水平、事件或实践的分析。Anthropic 不能否决发布，但如果信息属于上述狭窄的预定义类别，我们可以要求他们进行删节。METR 可以自由地公开描述我们的删节情况，并说明其是否认为删节是合理的，只要不泄露被删节的信息即可。
我们与 METR 的合作仅限于一个在可执行协议下运作的小型团队。其他 METR 员工与该团队的工作相互隔离，包括与我们在其他项目上合作的研究人员。嵌入式评估让少数在 Anthropic 安全标准下工作的合格人员能够近距离了解我们的运作方式。这并不是其他组织获取我们或我们客户及合作伙伴信息的方式。
我们的其他评估方合作
我们正在推进其他几项合作。由于这些其他合作仍处于早期阶段，我们向这些评估方提供的信息更为有限，他们的发布权也更有限。我们在这些早期合作中的目标是确保我们的合作伙伴保护机密信息，并拥有评估我们模型所需的资源和专业知识。随着合作推进并建立信任，我们希望充分嵌入更多独立评估方。
我们正在为评估方制定三个层级的访问权限。随着时间推移，我们希望有多个评估方达到第三层级，每个团队都发布其对我们风险态势和关键决策的分析。
在第一层级，评估方开展范围狭窄的风险调查。我们决定向第一层级评估方提供何种访问权限，评估方可在我们批准后发布其发现。
在第二层级，评估方无需我们批准即可发布，并且可以访问更多信息。我们仍可要求移除特定类别的信息，不过评估方可发布其对我们删节是否合理的看法。
第三层级是我们与 METR 所描述的安排，拥有类似员工的访问权限，以及类似于第二层级的发布权。
SecureBio 正在审查我们八月风险报告中的化学和生物武器章节，此前已完成并发布了对我们上一份风险报告的试点审查。此次审查完成后，我们将考虑转向访问权限更高的项目。2
与埃森哲和Faculty合作，我们正在推进一项雄心勃勃的合作伙伴关系，其中包括评估和对模型进行红队测试、开展对齐评估、测试模型防护措施，以及在我们各组织内建设相关能力。
我们自愿嵌入评估人员，我们认为每一家前沿AI公司都应这样做。
相关内容
为2026年美国中期选举做准备
今年早些时候，我们分享了选举防护措施的最新进展。在此，我们概述了在今年美国中期选举之前，我们如何继续加强这些防护措施。
Anthropic开设新加坡办公室并与新加坡政府签署谅解备忘录
Anthropic已在新加坡开设办公室，并与该国政府签署谅解备忘录，以推进安全、负责任地采用AI。
2026年使用政策更新
我们发布了新版使用政策。在本文中，我们总结了所做的变更。