Anthropic CEO Dario Amodei 的一篇文章
过去几天，关于开放权重模型，尤其是来自中国的开放权重模型，出现了大量讨论。有报道称，一些美国官员正在考虑禁止美国公司使用中国的开放权重模型。对此，许多科技公司签署了一封支持开放权重模型的公开信，还有人指责 Anthropic 想禁止开放权重模型，以此保护自己的业务。读过我过往文章的人应该知道，我并不认为这类禁令是有用的措施，但为了不留任何疑问，我在此明确表态：Anthropic 从未主张禁止开放权重模型。
不具备危险能力的开放权重模型是一种公共产品：除了运行所需的算力之外，它们不需要任何成本，并为企业、开发者和研究人员创造价值。
保护主义式的禁令解决不了我最严重的国家安全担忧。具体来说，我担心两种噩梦般的情景。六个月前，我在文章 The Adolescence of Technology 中阐述了这两种情景1，而且多年来我一直坚持这些立场：
- 我最主要的担忧是，专制政府（不仅限于中国共产党，尽管中共显然是最有能力的威胁）会打造出比美国更强大的 AI 模型，并借此取得永久的军事优势，或对本国人民实施极其严酷的压迫。美国政府内部对这一担忧有广泛共识：副总统 Vance 去年在巴黎警告说，“专制政权窃取并利用 AI 来增强其军事、情报和监控能力”；情报界的 2026 年度威胁评估则认为，“其他全球大国在 AI 上的强劲进展，正在挑战美国的经济竞争力和国家安全优势”。这些模型是否以开放权重发布无关紧要，它们是否被美国企业使用就更无关紧要。事实上，最危险的模型可能恰恰是秘密训练、只交给中国人民解放军用于无人机、交给国家安全部用于监控和镇压的那一种。
- 我次要的担忧是，强大的 AI 模型可能被滥用于发动网络攻击或生物攻击，并且可能存在严重的对齐问题。开放权重模型（无论来自中国还是其他任何地方）确实可能比闭源模型带来更高的风险，因为很难给它们加上护栏或监控其使用，而且权重一旦发布就无法收回2。但禁止美国企业使用这些模型对化解这一风险毫无作用，因为恶意行为者不太可能是合法经营的美国企业。这样做确实能让美国 AI 公司免受竞争，但那从来不是我的目标。
为了应对这些担忧，我确实支持以下三项措施，我本人和 Anthropic 也一直在倡导：
- 我们不应向中国出售强大的芯片或芯片制造设备，并且应当严厉打击为获取此类芯片而猖獗的走私3和各种规避手段。中国国内的生产能力有限，因此根据缩放定律（scaling laws），没有美国芯片就无法造出比美国更强大的模型。这是阻止威胁一最高效、最直接的办法；它通过阻碍那些不受美国法律约束的模型的训练，也间接有助于应对威胁二。
- 我们应当严厉打击工业规模的蒸馏行动。蒸馏比从零开始训练模型节省算力得多。它让中国能够造出远好于其芯片数量通常所能支撑的模型，从而部分规避芯片禁令。蒸馏并不能让中共获得与美国相当或更优的 AI 能力，但可以把中国的前沿水平拉到距美国前沿只差几个月的位置。确实，许多开展这类行动的公司发布的是开放权重模型，但与这些行动背后有一个试图在前沿追平并超越美国的专制国家撑腰这一事实相比，开放权重要无关紧要得多。我们应当通过政策手段来遏制这种行为。一刀切地禁止开放权重模型，既不是正确的解决办法，也不是我们提出过的主张4。
- 所有能力足够强的模型，无论开源还是闭源，都应接受强制性的安全测试。应对威胁二的最好办法，就是在模型发布前直接测试其网络、生物和对齐方面的风险。我认为这一想法其实已接近共识：令我感到鼓舞的是，特朗普政府近几个月已朝这个方向迈进，同时近期的行业提案也主张对最强大的模型进行此类测试，无论其来自哪个国家、是开源还是闭源（而对能力较弱的模型，例如初创公司和学术界的模型，则完全豁免）。开放模型是否会带来更高的风险，这种风险能否缓解，应当由测试得出结论，而不是事先下定论；而且可能存在提升开放权重模型安全性的有前景的方法，包括 AE Studio 与 Anthropic 近期关于模块化训练策略的研究。需要注意，测试要有效就必须是全球性的，这意味着连中共也要加入。我认为这未必做不到：正如我在 The Adolescence of Technology 中所写，在防止 AI 生物武器方面，有限的合作或许可行，因为这也符合中国的利益。
这就谈到了那封公开信。信中很多内容我是同意的：开放权重扩大了人们进入 AI 经济的机会，至少在某些用例上增强了竞争，并让客户拥有更大的控制权。对蒸馏的担忧应当通过有针对性的法律和商业框架来解决，也就是我上文所述的同一项措施。但我不同意信中的两个论断：一是开放权重模型必然使安全防护措施更容易开发，二是广泛获取这些能力必然对防御者比对攻击者更有利。在我看来，情况至少同样可能相反。例如，我担心生物领域会存在强烈的攻防不对称：能力足够强的模型也许能利用广泛可得的材料迅速把大流行级别的病毒武器化，而防御这类病原体，在最好的情况下也是一项耗时数年的作业任务（正如我们在“曲速行动”（Operation Warp Speed）中看到的）5。这类问题应当通过严格的发布前测试来用实证回答，而不是事先假定。
总结一下我和 Anthropic 的立场：我们过去没有、现在也没有主张把开放权重模型作为一个类别整体禁止。我们应当把重点放在三件事上：让强大的芯片远离专制政权、制止工业规模的蒸馏，以及要求对所有能力足够强的模型（无论开源还是闭源）进行安全测试。
*7 月 28 日更新：补充说明所引用的模块化训练策略研究，是 Anthropic 与 AE Studio 的合作成果。