与我们的客户共同开发企业前沿安全保障
今天，我们宣布推出企业前沿安全保障（Enterprise Frontier Safeguards，EFS），这是一套将零数据保留（ZDR）的隐私性与用于检测滥用的最先进保障措施相结合的解决方案。EFS 的工作原理是将数据存储在由客户而非 Anthropic 控制的云基础设施中。EFS 将从今年秋季晚些时候开始分阶段向客户推出。为确保平稳过渡，在 EFS 准备就绪之前，符合条件的客户将在 Fable 5 和 Fable 5.1 上获得 ZDR。
我们与金融服务、医疗健康、制造业、电信、法律、零售和公共部门等行业的 100 多家客户，以及我们在 Amazon Web Services、Google Cloud 和 Microsoft Azure 的云合作伙伴密切合作，共同开发了 EFS。
EFS 将在 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS 上的 Claude Platform、Google 的 Agent Platform 和 Microsoft Foundry 上提供支持。
解决前沿安全的困境
Mythos 级模型，例如 Claude Fable 5.1，代表着智能和智能体能力的重大提升。然而，伴随这种提升而来的是滥用和自主不当行为的潜在可能。
在过去几个月里，我们看到了大量 AI 模型被试图滥用的证据。这些行为既有欺诈等常见滥用形式，也有复杂的网络攻击，其中可能包括智能体自主从事破坏性行为。其中一些案例涉及企业客户凭据被盗或被挪用，而如果无法监控流量并检测异常行为，就很难发现这类情况。
此外，由于最复杂的滥用行为可能涉及分散在多个会话和账户中的许多任务，仅对每次交互分别进行自动化分析然后立即丢弃数据是不够的。有效的检测需要将数据存储一段有意义的时间，以便能够跨时间和账户进行关联分析。
出于这一原因，我们从 Fable 5 开始引入了 30 天数据保留。这一政策并非出于利用企业数据训练的意愿：Anthropic 从未在未经明确许可的情况下使用企业数据训练模型，也永远不会这样做。
与我们合作的企业普遍理解数据保留在安全和安保方面的价值，但许多企业——尤其是受监管行业的企业——发现很难使用带有数据保留的模型。因此，我们与客户坐下来共同设计了一套能够两全其美的解决方案：既具备 ZDR 的隐私性，又具备跨时间和账户监控所带来的安全性。
与我们的客户共同设计
我们根据每天都会使用它的专家——安全、产品、合规和交付团队——的反馈构建了企业前沿安全保障。与我们合作的团队之一是系统性风险分析与韧性中心（ARC），其成员包括美国最大银行的首席信息安全官，涵盖高盛、摩根士丹利、花旗、美国银行和富国银行。
我们还与康卡斯特、毕马威、万事达卡、Salesforce 和 Visa 等公司的领导者合作，以确保该设计在各行各业都能站得住脚。我们的对话覆盖了财富 100 强中的四分之一、美国所有全球系统重要性银行，以及几乎所有受监管行业。
以下是我们从这一广泛客户群体中听到的反馈，以及我们在 EFS 中构建的、用于解决这些共同关切的内容：
关于监控
企业长期以来一直对内部风险实施监控，如今希望获得帮助，以提升对代理的监控水平。他们的担忧在于，Anthropic 的自动化监控系统能否满足其监管标准。
借助 EFS，客户可以控制数据如何被审查。 当监控检测到需要关注的模式时，这些信号会直接发送给客户，以便他们审查自动化系统检测到的内容。
关于数据存储
出于多种原因，企业要再增加一个“可信数据供应商”需要做大量工作。他们需要通知所有客户这些供应商是谁，并更新合同。鉴于数据的高度敏感性，他们还有安全存储和审计数据的内部要求。出于这些顾虑，我们以这样的方式架构了 EFS：客户能够将数据存储在其现有的云基础设施上。
在 EFS 中，客户可以控制其数据存储和管理。 客户希望能够让数据存放在他们控制的基础设施中，使用他们自己的加密密钥、访问策略和审计日志。用于监控的活动数据可以存储在客户自己的云账户中（例如 Amazon S3、Azure Blob Storage 或 Google Cloud Storage）。
关于自动化审查与人工审查
即使自动化审查正变得更有效，查看标记的人仍然能通过确认真实滥用和排除误报来增加价值。但我们从许多客户那里听到，尤其是受监管行业的客户，进行这种审查的人必须是他们自己的人。许多客户所遵循的规则严格规定了谁可以查看某些信息——受特权保护的法律材料、非公开信息、药物安全报告。他们的团队已经接受过相关培训并获得从事这项工作的许可。
EFS 具有自动化安全监控，无需 Anthropic 进行人工审查。 客户希望获得针对网络攻击的保护，并且理解如果网络攻击跨越许多会话和账户展开，可能很难被检测到。借助 EFS，自动化系统会分析滚动时间窗口内的流量，以发现严重滥用的信号，包括试图开发进攻性网络能力或生物能力，以及凭证被盗或泄露的迹象。这些标记会直接发送给客户，由他们的人员从那里接手——无需 Anthropic 员工进行人工审查。
AI 控制措施需要被设计用来保护敏感信息，而模型保障措施是这一过程的重要组成部分。Anthropic 在开发 Enterprise Frontier Safeguards 时邀请我们参与，以确保其符合我们的要求和标准。
企业前沿保障措施恰好满足了我们的需求：我们的日志保留在 Wells 管理的环境中，由 Wells 管理的密钥保护。我们保留数据的保管权，而 Anthropic 负责运营检测。这种分工让我们团队能够安全地将前沿模型投入工作，并履行我们对客户、员工和监管机构的义务。我们帮助塑造了这些保障措施，因为我们的行业需要它们。
作为一家运营关键基础设施的公司，模型的能力很重要。同样重要的是，解决方案能让我们将数据保留在自己的账户中，而企业前沿保障措施解决了这个问题。
我们的八个成员与 Anthropic 合作，定义了在系统重要性银行内部运行最强大的前沿模型需要什么：谁持有数据，谁持有密钥，自动审查能看到什么和不能看到什么，以及在什么条件下允许人类查看。这种合作正在推动改进的保障措施和标准的开发和交付，这些措施和标准可以在我们的行业乃至更广泛范围内推广。
保障架构的关键原则之一是，我们能够保留数据并将其置于模型本身之外，在我们的环境中受到保护。公司内部以及我们客户的工作中，有一些领域受到监管且高度敏感。这些保障措施实际上允许我们在以前无法涉足的业务领域应用 AI。服务合作伙伴
二十多年来，我们的客户一直信任我们处理他们的数据。正是这种经验，让我们希望与 Anthropic 一起思考这个问题，而不是袖手旁观。我们能够在架构层面而不仅仅是政策层面，共同开发新的安全和隐私能力。
我们的客户希望将前沿模型投入工作，而他们的安全团队希望数据留在他们控制的基础设施中。Anthropic 与一百多家企业共同构建了企业前沿保障措施，正是为了实现这一点。服务合作伙伴
随着 AI 模型承担更多受监管、敏感的工作负载，负责任地扩展也归结为架构，而不仅仅是政策承诺。对数据环境的直接控制，加上基于模式的自动安全监控，为企业提供了具体的、结构性的能力，使他们能够以真正的监督、问责和信心进行部署。服务合作伙伴
这些保障措施及其设计——显然，你们听取了我们的反馈。它们让我们处于主导地位。日志在我们的控制之下；除非我们愿意，否则它们不会流向其他地方。这让我们能够控制数据、控制信息，并在检测到可能超出保障措施的情况后控制后续操作。
随着 AI 在企业中越来越深入，安全和信任是推动组织从实验走向大规模部署的关键。企业前沿保障措施将从一开始就构建这些：监控数据留在客户控制的基础设施中，并由他们自己的团队决定谁可以访问。服务合作伙伴
为客户数据保密是 Snowflake 对每一位客户的承诺。我们始终快速将前沿模型交到客户手中。难点在于，要在最严格的数据保障下安全地做到这一点。我们与 Anthropic 合作设计了 Enterprise Frontier Safeguards，这样我们就能两者兼顾：数据留在客户的环境中，由他们掌控的密钥保护，从第一天起就能运行 Anthropic 最强大的模型。当前沿 AI 在构建时就考虑到平台，这就是负责任的前沿 AI 应有的样子。
在 Stripe，保护客户数据是我们运营方式的根本。Anthropic 的 Enterprise Frontier Safeguards 将使我们能够使用受涵盖的前沿模型，同时将对话日志保留在 Stripe 的 AWS 环境中，其访问和审查由 Stripe 的安全控制措施管理。
Rogo 的客户期望能够使用可用的最佳智能，但绝不会以牺牲其数据的安全和防护为代价。Enterprise Frontier Safeguards 将为金融机构带来最强大的模型，同时满足它们所要求的机构级数据要求。前沿智能与企业级控制措施的这种结合，对于在金融服务领域部署 AI 至关重要。
FIS 为资金流动和金融机构运营背后的基础设施提供支持，因此我们部署的任何 AI 保障措施都必须达到这种规模和信任标准。我们与 Anthropic 的合作已经包括通过 Project Glasswing 用我们自己的系统测试他们最先进的前沿模型。Claude Enterprise Frontier Safeguards 扩展了这项工作，将保留的数据保存在我们自己的账户中，并将标记直接发送给我们的安全团队。
企业信任 Cognition 的自主工程师承担真实的生产工作，而这种信任取决于他们的工作保持私密。借助 Enterprise Frontier Safeguards，客户数据和身份永远不会离开我们这一侧。它将使我们能够将前沿 AI 带入生产工作，而无需在隐私上做出取舍。
我们客户的代码和数据是他们最有价值的知识产权之一。保护这些信息是我们在 Factory 构建方式的根本。我们与 Anthropic 一起，使客户能够使用 Claude 最强大的模型，同时将专有数据的控制权掌握在自己手中。Enterprise Frontier Safeguards 让企业能够获得前沿智能，同时具备其安全团队所要求的数据保护。
我们始终坚定不移地致力于客户保密和安全。我们所服务的领先法律和专业团队将这些原则视为不可协商的，我们也以同样的标准要求自己。Enterprise Frontier Safeguards 体现了这一承诺，使具有最严格保密要求的客户能够使用前沿模型，而模型提供商不会保留他们的数据。
EFS 的工作原理
无论你是直接从 Anthropic 访问 Claude，还是通过云合作伙伴访问，这些控制措施的设计都以相同方式运作。Amazon Web Services、Google Cloud 和 Microsoft Azure 上的客户将获得同等控制措施，其活动数据存储在他们自己的云账户中，也就是他们已经信任的环境中。我们也在努力支持为符合 Enterprise Frontier Safeguards 资格的客户提供服务的第三方产品。
客户自有存储、客户管理的加密密钥以及全自动审查均为可选功能，因此你可以按组织需要启用相应功能。它们都不会改变模型行为、API 定价或速率限制。
Anthropic 不会对 Enterprise Frontier Safeguards 收费。如果客户选择将数据存储在自己的云账户中，其云服务提供商会就存储以及读取、写入和数据传出费用向其收费，方式与对任何其他资源收费相同。
开始使用
Enterprise Frontier Safeguards 将分阶段向客户推出，目标是在今年秋季晚些时候广泛提供。如需申请使用 Enterprise Frontier Safeguards，请填写此表单。
相关内容
改进我们的对齐与安全工作
7 月 30 日，我们报告了三起 Claude 模型未经授权访问真实计算机系统的事件。我们正在对这两起事件进行深入分析，并计划与 METR 合作开展独立审查。与此同时，我们分享过去一个月所做的一些变更。
预览模型硬件标准
我们正在向首批科学研究实验室和先进制造商开放模型硬件标准（MHS）的研究预览，这是一项供 AI 智能体安全操作物理设备的共享规范。
扩大我们对科学家的支持
从今天起，全球 10,000 名科学家可以免费开始使用 Claude。经过验证的首席研究员有资格获得 Claude Team 订阅计划，然后可将其研究团队添加到 Standard 席位（免费）或 Premium 席位（每月 15 美元），最长可达一年。