本文讨论的是 METR 关于 Anthropic 内部 AI 研发加速的一份公开报告。我没有参与该项目，也没有看过未删减版报告。1 所有观点仅代表我个人，不代表 METR 或报告作者。
感谢 Ryan Greenblatt 的讨论、反馈以及建模方面的帮助，也感谢 Daniel Kokotajlo、Eli Lifland 和 Hjalmar Wjik 的评论。
本周早些时候，Anthropic 在其 S1 中表示，他们“可能即将达到”其《负责任扩展政策》中定义的“因 AI 而大幅加速进展”的门槛。在他们最新的 RSP（2026 年 7 月生效）中，他们表示当以下条件满足时即达到该门槛：
过去几个月，我在 METR 的一些同事一直在进行一项深度访问调查，以了解 Anthropic 被其 AI 系统加速了多少。根据我对他们报告和 Anthropic RSP 的阅读，看起来“大幅加速”的门槛已经被跨过了。4
报告作者发现：
- 从 2025 年 10 月到 2026 年 10 月，Anthropic 的能力进展速度大约是此前十二个月的两倍。他们报告的测量指标是 Epoch Capabilities Index 的内部版本，称为 AECI；其他大量支持加速的证据已被删节。他们表示，这些被删节的证据是“他们发现的最有信息量的证据中的大多数”。
- 虽然这一加速最初可能由多种原因共同推动，但 AI 自动化很可能是能力至今仍以更快速度提升的绝大部分原因。他们相信这一点的理由已被删节。
这件事比乍听起来要重大得多。我认为这份报告是我们过去几年中获得的关于 AI 风险的最重要更新——远比Hugging Face 攻击事件重大。粗略来看，它指向的时间线比大多数外部研究者（包括AI 2027 团队）所预测的要短得多。
研究者必须被大幅加速
重要的是，如果 AI 大致将整体能力进展速度翻倍，那么它加速人类研究者的幅度必须远大于此。
研究者致力于改进算法和架构；Anthropic 有时将这些创新称为“算力乘数”。5 整体 AI 能力（“有效算力”）是算力乘数与训练算力的乘积。由于算力乘数只是能力的一个输入，这意味着如果 AI 能力因软件进步而整体加速两倍，算力乘数的增长率需要超过两倍：基于合理假设，可能快约 2.5-3 倍。6 由于加速幅度及其有多少来自 AI 存在不确定性，我倾向于取约 2-3 倍。
同样，研究者的劳动只是发现这些算力乘数的一个输入：他们需要测试自己的想法，而这需要算力来做实验。如果我们假设一个非常简单的 Cobb-Douglas 模型，其中实验算力和劳动同等重要，这意味着对劳动的提升大致需要是算力乘数加速倍数的平方。7 这意味着我们需要约 (2-3 倍)^2 = 约 4-9 倍的劳动加速，才能使整体 AI 能力提升两倍。8
然而，一旦能力开始显著加速，这也意味着低垂的果实会以相应更快的速度被摘走。每新增一个算力乘数，发现和实现它所需的工作越来越多（即“想法越来越难找”）。在 AI 带来大量加速之前，劳动大致通过招聘更多人以某种大致固定的指数速率增长。结合算力的增长，这足以抵消收益递减，从而维持能力进展的基线速度。但要在不加快算力扩张的情况下维持新的更快的能力进展速度，我们需要整体劳动以新的更快速度增长。
由于人类劳动力大致仍以旧速率增长，来自 AI 的提升必须随时间越来越大，才能维持能力进展的新速度。这意味着在 AI 带来数月加速进展之后，今天的提升9需要高于约 4-9 倍——即开始时使进展翻倍所需的估计值：也许所需的劳动提升约为 10 倍。这非常不确定，显著更高或更低都是可能的。但这与 Anthropic 员工的非正式自我报告惊人地吻合，他们表示现在从内部模型的使用中获得了约 12 倍的提升。
当你想象 10 倍提升时，你不应想象每位研究者现在都变成十人团队——任何做过实际工作的人都知道，十人团队每小时完成的有价值工作并不是一个人的十倍。相反，这就像 Anthropic 的每位研究者都身处一个时间扭曲气泡中，外界每过一天，他们就经历十天。就像 AI 让他们思考、阅读、说话、打字以及做其他一切都快了十倍。10 Anthropic 大概无法通过招聘任意数量的人来把研究加速到这种程度。11
这可能会极快地自我复合
一个合理的默认预期是：随着 AI 能力持续提升，AI 研究者将因自动化而越来越快地被加速：如果今天他们需要一个月才能完成过去一年完成的工作量，那么很快只需一周，然后也许只需一天。如果这种不断增长的劳动提升足够强，足以克服收益递减，那么在不存在其他瓶颈的情况下，它将转化为 AI 进展速度上更大的加速：进展速度将开始快 4 倍，然后 8 倍，然后 16 倍，依此类推。
报告作者对这个问题非常不确定，并表示随着新信息的出现，他们的图景多次改变。但最终，他们没有发现会阻碍复合加速的瓶颈或陡峭收益递减的证据。12 他们还报告看到一些（令人困惑的）经删减的证据，表明加速可能已经超过 2 倍，并随时间增加。
如果我们按字面接受 AI 现在几乎使 AI 能力进展速度翻倍，并假设来自 AI 的加速是平滑的，这朴素地意味着我们将在一年内达到极端的超级智能。看起来，大约一年的 AI 进展使我们从温和的加速走到了 AI 现在使 AI 进展速度大约快两倍的地步。如果来自 AI 的加速是平滑增长的，那么在这个新速度下，我们应预期在六个月内再次使进展速度翻倍。到那时，再次翻倍将需要三个月，然后六周。13
理论上，这些翻倍时间加起来将在一年的时间内达到无限能力。现实中，在某个时点我们会达到软件效率的有效上限。但我预计这些限制离我们目前的位置非常遥远。
如果我们经历这个反馈循环，我预计从另一端出来的 AI 系统将能够非常迅速地开发新型武器，并在冲突中非常轻易地压倒人类文明。如果这些系统严重失准，我认为它们很可能剥夺人类的能力，这可能导致人类灭绝。
业界并未准备好安全地处理此事
“由于 AI 而急剧加速的进展”之所以是这样一个重要且极端的里程碑，是因为它是极近期内极端能力的一个强有力的具体指标。事实上，在 Anthropic RSP 的早期版本（2025 年 5 月）中，AI 研究自动化所对应的最高命名风险阈值（AI R&D-5）对应的是一个某种程度上更弱的里程碑。14 根据旧的 RSP，Anthropic 在达到 AI R&D-5 时，至少需要具备足以“防范国家级对手窃取模型权重”15的安全水平。
我同意，对于模型权重和算法秘密本身而言，非常强大的安全性是明年经历智能爆炸而不冒杀死数十亿人的巨大风险的最低前提。AI 业界远未达到这一标准：OpenAI 和 Anthropic 最近都遭到了业余团体的重大安全入侵。除了强大的模型权重安全之外，我还认为我们需要具有普遍覆盖的稳健日志记录和监控、对可监控性的可靠测量、针对监控者串通的有效对策、有原则的对齐训练技术，并配有非常有说服力的模型生物或可解释性来理解它们的效果如何、如果我们注意到这些对齐与控制干预开始失效时用于调节进展节奏的治理基础设施……以及许多其他措施，如果我们想以任何负责任的方式接近智能爆炸的话。
不幸的是，支撑这些结论的大部分重要证据已从本报告中删减。分析选择将不可避免地充满困难，报告作者表示证据常常令人困惑。
我相信我的同事们做了仔细而严谨的工作，来理解他们所看到的东西，我也基于这份报告做出了重大更新。但我希望更多底层证据能够透明公开，这样读者就不必依赖信任。我们可能没有多少时间在时间线和起飞速度上达成共识，而当外部科学家无法检查数据并测试他们自己的模型时，做到这一点要困难得多。
由于我可能看到过其他与时间线和起飞速度相关的机密信息，我将只讨论公开证据的含义，而不分享精确的底线预测。
确切条件是：“我们观察到或预期 AI 总体能力的进展速度翻倍，既相对于我们预期的速度，也相对于我们在 AI 对 AI R&D 没有显著贡献的情况下所观察到的最快持续进展速度。”我的理解是，同时设置这两个条件（进展速度既相对于反事实又相对于没有太多 AI 辅助的最快持续速度翻倍）的原因，是为了排除这样的情况：如果没有 AI 自动化，能力进展速度本会大幅放缓，但我们借助来自 AI 的急剧提升设法维持了旧趋势。
确切条件是：“这种翻倍很可能显著归因于研究和/或工程的自动化（而非其他因素，例如人员数量、算力或一般生产率的增加），以至于 AI 进展趋势的延续似乎很可能导致更大的加速。”
该阈值的定义有些繁琐，部分原因是必须满足两个加速条件（相对于反事实的加速和相对于过去的加速）。但按字面理解，我最好的猜测是它已经满足。
METR 报告的作者估计，相对于过去的进展速度大约翻了一番，但他们只把当前加速的大约 80% 归因于 AI，这意味着在他们撰写报告时（2026 年 10 月），相对于无 AI 的观察加速的中心估计大约为 ~1.8 倍。
但他们也发现 AI 的贡献一直在随时间增长，我猜测现在（截至 2026 年 11 月）它已明显更高。即使进展速度此刻并未完全达到反事实的两倍，该阈值也纳入了合理的预期（“我们观察到或预期进展速度翻倍……”）。
Anthropic CEO Dario Amodei 在这篇文章中解释了算力乘数的概念：“该领域不断涌现大大小小的想法，使事物更有效或更高效：它可能是对模型架构的改进（对当今所有模型使用的基础 Transformer 架构的微调），也可能只是让模型在底层硬件上运行得更高效的一种方式。新一代硬件也有同样的效果。这通常会移动曲线：如果创新是 2 倍的‘算力乘数’（CM），那么它让你能以 500 万美元而非 1000 万美元在编码任务上获得 40%；或以 5000 万美元而非 1 亿美元获得 60%，等等。每家前沿 AI 公司都会定期发现许多这样的 CM：通常是小的（~1.2 倍），有时是中等规模的（~2 倍），偶尔也有非常大的（~10 倍）。”
这是我的同事 Ryan Greenblatt 在这里所做的建模的简化版本。他的数字基于他此前对软件与训练算力的重要性、劳动力与实验算力的重要性等因素的公开建模先验。
Cobb-Douglas 的常见表述通常将劳动力衡量为人类的数量。在这种表述中，需要在劳动力之上再加一个并行化惩罚，而且系数之和不等于 1。如下文所述，我选择用串行劳动力加速而非人类的数量来表示劳动力；这一表述由 Ryan Greenblatt 在这篇文章中提出。
为了让数学简单，我直接假设劳动力和实验算力贡献相等（即算力乘数 = (劳动力)^0.5 * (算力)^0.5。这意味着你要对算力乘数的加速平方，才能反推出劳动力的加速。我给出的范围省略了贡献大小的不确定性：例如，如果劳动力贡献了 ⅔，你就需要改为将其提升到 3/2 次方。
我说几个月而不是整整一年，是因为报告作者表示，2025 年末最初的较快进展在很大程度上归因于其他因素，尽管当前的加速主要归因于 AI。
在实践中，10 倍的提升不太可能是均匀的：某些任务（例如更“可爬山”的任务）的加速会远大于其他任务，从而使净生产率提升相当于 10 倍的均匀加速。
也就是说，实际存在的任何数量的人。我猜测，如果你能把所有现有研究人员克隆几百次，那可能就足够了，但世界上并没有那么多强大的 AI 研究人员和工程师。
来自该报告：“一个关键担忧是，使用 AI 带来的加速可能开始复合，因为开发能力更强的模型会导致进一步的加速。如下文所述，我们没有发现任何明显的瓶颈（会阻止进一步增长的有限投入），也没有发现进一步扩展会导致陡峭的收益递减从而阻碍这种复合加速，尽管我们的理解在本次评估过程中多次演变，而且我们存在显著的不确定性。因此，我们认为存在显著风险：进一步的能力进展可能在未来一年导致更快的加速。”
这一启发式论证与一些简单但合理的模型一致，在这些模型中，递归自我改进使 AI 进展速度在累积 AI 进展（例如有效算力的对数）上呈指数增长；这里是这一启发式论证的推导，针对此类模型的一种参数化。
AI R&D-5 被定义为：“能够导致有效扩展速度急剧加速的能力。具体而言，如果我们观察到或预测到世界上能力最强模型的有效训练算力在一年内的增长，相当于 2018 年初至 2024 年初期间平均进展速度的两年，就属于这种情况。我们粗略估计 2018-2024 年的平均扩展约为每年 35 倍，因此这意味着实际或预测的一年扩展为 35^2 = ~1000 倍。”它较弱，因为它与固定的 2018-2024 时期相比较，而不是与没有显著 AI 加速时观察到的最快速度相比较，而且从技术上讲，它不要求你对 AI 做任何归因就能达到该阈值。
最低承诺是达到RAND 的 ASL-4 安全级别；我的理解是，这一安全级别能够保护模型权重免受顶级国家行为者（例如中国）的常规行动侵害，但无法抵御最高优先级的行动。Anthropic 是这样描述的：“至少需要 ASL-4 安全标准（该标准将防范国家级别对手窃取模型权重），尽管我们预计可能需要更高的安全标准。”