返回 文章 学习 CMS 文章

Cognition 发布 SWE-2 编程模型：以更低成本逼近前沿水平

Cognition 发布 SWE-2，通过帕累托信息成本惩罚等 RL 后训练技术，在能力与成本之间推进前沿。

Hacker News
SWE-2Cognition编程模型强化学习
成长分 / 100 71 综合收获、行动、留存与影响

Cognition 发布 SWE-2 编程模型：以更低成本逼近前沿水平
为什么值得读了解 SWE-2 如何在 FrontierCode 1.1 Main 等基准上以远低于竞品的成本接近前沿模型。

理解其首次将强化学习扩展到数万亿参数规模的技术路径与训练基础设施。

关键洞察
  1. SWE-2 在 FrontierCode 1.1 Main 上达到 50.0%，与 Fable 5.1 相差不到一个百分点，而成本低 64%。
  2. SWE-2 首次将强化学习扩展到数万亿参数规模，建立在 SWE-1.7 的训练基础设施和配方之上。
  3. 其关键新增是一种强化学习算法，能在单次运行中训练所有推理投入级别，从而推进整个成本—性能前沿。
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：22939

今天，我们推出迄今最先进的编程模型 SWE-2。它推进了能力与成本的帕累托前沿：在 FrontierCode 1.1 Main1 上取得 50.0% 的成绩，与 Fable 5.1 相差不到一个百分点，成本却低 64%。

借助 SWE-2，我们首次把强化学习（RL）扩展到数万亿参数规模，沿用了 SWE-1.72 的训练基础设施和训练配方。关键的新增部分是一种 RL 算法，它在一次训练中同时训练所有推理强度档位，从而推进整条成本—性能前沿。

基础模型训练结束

结果是我们迄今最接近前沿水平的模型。在 FrontierCode 1.1 Main 和 DeepSWE 1.1 上，SWE-2 的得分和成本均优于 SWE-1.7 与 Grok 4.6；以远低于对方的价格追平 GPT-5.6 Sol 和 Fable 5/5.1；并以四分之一的成本逼近 GPT-6 Astra，仅差几个百分点。

查看各模型在 FrontierCode 排行榜上的排名

SWE-2 是在 Kimi K33 基础上后训练而来的，这是一个 2.8T 参数的模型，此前已经历大量面向智能体编程的 RL。与 SWE-1.7 一样，我们的 RL 仍然发掘出相当大的提升空间，在许多基准测试上带来 5–6 分的增益，并整体平移了 K3 的成本—性能前沿。

SWE-2 Kimi K3 Grok 4.6 Fable 5.1 GPT-5.6 Sol GPT-6 Astra SWE-1.7
FrontierCode 1.1 Main 50.0% 44.2% 48.0% 50.9% 47.5% 53.3% 42.0%
DeepSWE 1.1 73.0% 68.5% 67.5% 67.4% 72.7% 74.1% 37.7%
Terminal-Bench 2.1 92.8% 88.3% 88.4% 91.4% 88.8% 89.9% 81.5%
Terminal-Bench 4 27.3% 21.5% 20.3% 55.8% 37.3% 57.9% 7.6%

本文余下部分将介绍 SWE-2 的不同之处，以及我们是如何训练它的。

我们先从 SWE-2 的行为讲起，重点说明它相比前代模型更高效、更智能的特点。随后详述 SWE-2 背后的后训练进展：

  • 成本惩罚。我们在一次 RL 训练中，为每个推理强度档位施加线性成本惩罚，每个惩罚系数都根据基础模型帕累托前沿的局部斜率来调节。这一做法由第一性原理推导而来，目的是在保持前沿形状的同时推进模型的整条帕累托前沿，并尽可能直接地在训练中反映用户的实际成本。
  • 奖励基线。我们推导出自 SWE-1.6 起一直使用的按长度加权的奖励基线，并展示它如何显著稳定训练。
  • RL 轨迹采样（rollout）服务。我们改进了调度，并训练了一个在线草稿模型来提高解码吞吐量。借助 NVFP4/FP8 内核和量化感知训练，我们降低了整体显存占用；尽管基础模型的参数量接近 SWE-1.7 的 3 倍，在吞吐量相近的情况下，训练与推理之间的不一致仍比 SWE-1.7 更低。
  • 训练数据。我们把 RL 环境的数量增至三倍，加入指令遵循叠加层，并建立了一个由 SWE-2 早期检查点驱动的飞轮，不断迭代强化我们的验证器。

SWE-2 即日起在 Devin Desktop 和 CLI 中提供。我们也正在 Devin Web 和 Fusion 上陆续推出。

模型行为

SWE-2 在智能与效率上的提升是紧密相关的。更强的工程判断力让智能体能写出更完整的解决方案，同时减少弯路和重复读取。在 FrontierCode 1.1 Main 上，SWE-2 medium 的得分高于 SWE-1.7，平均轮次减少 58%，成本降低 81%。

SWE-1.7 与 SWE-2 在 FrontierCode 1.1 Main 上的对比：均值

SWE-1.7

127

SWE-2 medium

53

SWE-2 high

80

SWE-2 max

98

050100

  • 探索（read / grep / ls）
  • 规划 / 待办
  • 编写 / 编辑代码
  • 构建（make / lint）
  • 运行测试
  • git add / commit
  • 最终消息

对 FrontierCode 1.1 Main 全部 100 个任务取均值，每个模型每个任务运行三次，并按每一步所调用的工具分组。

在上一篇文章2中，我们观察到 SWE-1.7 非常谨慎，会在编辑前对代码库做彻底的探索。这在提升表现的同时，也招致用户反馈：SWE-1.7 在简单任务上容易过度探索、想得太多。令人欣喜的是，我们发现 SWE-2 最大的效率提升来自有针对性的探索：更高的智能让模型能够判断代码库中哪些部分对任务真正重要。这使 SWE-2 能更早开始实现：在 FrontierCode 1.1 Main 上，SWE-2 medium 的首次实质性编辑出现在中位数第 18 步，而 SWE-1.7 为第 48 步。

在内部测试 SWE-2 时，我们观察到，更强的模型能力还体现为以下行为模式：

  • 测试覆盖：SWE-2 更擅长编写端到端检验实现的测试，能更可靠地捕捉回归问题和边界情况。
  • 在用户边界内足智多谋：当显而易见的路径受阻时，SWE-2 更愿意寻找另一条通往同一答案的路线。在一个案例中，它所需的 MCP 集成不可用，于是它利用已有权限的 Slack 频道历史记录重建了数据。
  • 验证纪律：被质疑时，SWE-2 会重新推导结论，而不是重复断言。SWE-2 会验证用户的假设，而不是一味附和；它会运行产物来收集证据，而不是相信表面的文字描述。其结果是，这个模型得出的结论值得信赖。

不同推理强度档位之间也存在真实的行为差异。SWE-2 medium 行动起步快得多，在简单和中等难度任务上具有高性价比。SWE-2 high 和 max 在复杂任务上更有优势：规划更多，探索代码库的范围更广，并通过更复杂的验证来管理不确定性。

接下来，我们讨论后训练方法上的一项改进，我们认为它促成了上述行为特征：RL 中基于帕累托信息的成本惩罚。

用 RL 推进帕累托前沿

随着模型越来越智能、也越来越昂贵，成本—性能权衡在编程智能体领域变得日益重要。因此，在训练 SWE-2 时，我们的目标不只是优化模型的智能，还要优化它所能提供的整个成本—性能权衡区间。

各家后训练配方在如何惩罚长度、如何训练多个推理强度档位上差异很大。例如，Kimi K3 为每种领域与强度档位的组合分别训练一个专家，再通过多教师在线策略蒸馏把这些专家整合为一个模型。它还使用针对具体问题（且针对具体训练步）的词元预算。

面对这些范围广泛、又难以细究的可能做法，我们提出一种优雅且有原则的方法，在一次 RL 训练中端到端地训练所有推理强度档位。

训练过程中帕累托前沿的进展

Kimi K3

训练结束

我们通过如下形式的成本惩罚奖励函数来实现这一点

R=S−λeC,R=S-\lambda_e C,

其中 S∈{0,1}S \in \{0,1\} 表示一次 rollout 是否成功，CC 表示一次 rollout 的成本（推理成本美元数与 rollout 耗时的混合），ee 表示推理强度档位，λe\lambda_e 是一个参数，其取值需与基础模型在强度档位 ee 处帕累托曲线的斜率相匹配。

近似 Kimi K3 的帕累托曲线切线

这些选择乍看可能有违直觉，但正如我们接下来将看到的，它们是由推进帕累托前沿这一目标推导出的合乎逻辑的结论。

推导成本惩罚

接下来我们解释，为什么选择这样的 RL 目标 RR 能直接优化模型的成本—性能帕累托前沿。这里，“成本”指平均成本，“性能”指解决率，二者都是在训练任务的分布 D\mathcal D 上取平均。请回想：成本—性能平面上的点取决于任务分布的平均成本和平均解决率，除此之外不依赖于 D\mathcal D。因此，为了让 RL 目标与模型在该平面上的位置一致，我们希望 RR 在 D\mathcal D 上的期望只取决于这一平均成本和解决率。

事实证明，要对 rollout 成本与成功情况的每一种联合分布都保证这一等式成立，就必须采用线性成本惩罚（至多相差加性常数和缩放），因为只有线性惩罚在先平均成本再施加惩罚与先施加惩罚再平均时给出相同的结果。感兴趣的读者可参阅附录 B，我们在其中对这一论断给出了严格证明。

有了奖励函数 R=S−λeCR=S-\lambda_e C，最后的任务是为每个推理强度档位选取 λe\lambda_e。设定 λe\lambda_e 乍看像是一个超参数优化问题，但事实证明，向上推进帕累托前沿这一目标再次决定了我们该如何选择。实际上，我们认为能够清晰地推理这一参数的选取，是我们方法在实践中的一大优势。

关键思路是考察帕累托前沿及其等奖励线的几何结构。为此，固定一个推理强度档位，设 (c,s)(c,s) 为当前前沿上的对应点，其平均奖励为 J=s−λecJ=s-\lambda_e c。它的等奖励线满足 s=λec+Js=\lambda_e c+J，因此斜率为 λe\lambda_e。

在下方左图中，我们看到 λhigh\lambda_\text{high} 设得过大时的失败案例：模型因执行了一次无益的更新而获得奖励，即高强度档位的模型开始表现得像中等强度版本。成本的降低超过了解决率的损失，奖励因此上升，帕累托前沿却没有改善。在右图中，λhigh\lambda_\text{high} 与前沿在当前高强度点处的斜率相匹配。当等奖励线与前沿相切时，奖励的提升必然意味着前沿的改善。

我们可以用一点代数把这一几何直觉形式化。设 mm 为帕累托前沿在 (c,s)(c,s) 处的局部斜率。沿前沿做一个小的移动，解决率变化 Δs≈mΔc\Delta s\approx m\Delta c，因此平均奖励的相应变化为

ΔJ=Δs−λeΔc≈(m−λe)Δc.\Delta J = \Delta s - \lambda_e \Delta c \approx (m - \lambda_e)\Delta c.

因此，令 λe=m\lambda_e = m，就能保证目标 JJ 不受沿帕累托曲线移动的影响（一阶近似下）。

按长度加权的奖励基线

我们还要分享自 SWE-1.6 起一直使用的奖励基线：一种按长度加权的基线，它无需额外开销就能降低梯度方差，并显著稳定训练。

给定固定的提示 xx 和一组 nn 条 rollout y1,…,yny_1,\ldots,y_n，带基线 bb 的在线策略梯度估计量为

g^=1n∑i=1n(Ri−b) ∇θlog⁡πθ(yi∣x).\widehat g = \frac{1}{n}\sum_{i=1}^{n}(R_i-b)\,\nabla_\theta\log\pi_\theta(y_i\mid x).

降低梯度估计量方差的一个合理替代做法是最小化 E[(Ri−b)2]\mathbb E[(R_i-b)^2]。这给出均值奖励基线 b=E[Ri]b = \mathbb E[R_i]，实践中我们用组基线4 b=1n∑i=1nRib = \frac{1}{n}\sum_{i=1}^{n}R_i 来估计它。它对采样 rollout 的依赖会给梯度估计量带来一些偏差，但这一偏差按 1/n1/n 衰减，在大组中很小。

我们转而尝试最小化完整梯度估计量 g^\hat g 的方差。按照 Greensmith、Bartlett 和 Baxter（2004）5,6 的结果，最优基线为

b⋆=E[Ri∥∇θlog⁡πθ(yi∣x)∥2]E[∥∇θlog⁡πθ(yi∣x)∥2].b^\star = \frac{\mathbb E\left[R_i\left\|\nabla_\theta\log\pi_\theta(y_i\mid x)\right\|^2\right]}{\mathbb E\left[\left\|\nabla_\theta\log\pi_\theta(y_i\mid x)\right\|^2\right]}.

简单推导见附录 C。

要计算这一基线的经验估计，需要对每条 rollout 额外做一次反向传播来得到 ∥∇θlog⁡πθ(yi∣x)∥2\left\|\nabla_\theta\log\pi_\theta(y_i\mid x)\right\|^2 这一项。不过，我们从经验上发现这个量与 rollout 长度 LiL_i 高度相关，如下图所示：

散点图，展示 ∥∇θlog⁡πθ(yi∣x)∥2\left\|\nabla_\theta\log\pi_\theta(y_i\mid x)\right\|^2 与 rollout 长度（以可训练词元数计）的相关性。基于 1k 条 Kimi K3 rollout 在我们的训练环境集上生成。

这提示我们可以用一个便宜得多的替代量来近似 b⋆b^\star，且不增加额外开销：

b^=∑i=1nRiLi∑i=1nLi.\widehat b = \frac{\sum_{i=1}^{n}R_i L_i}{\sum_{i=1}^{n}L_i}.

实践中，我们使用离策略 RL 训练，因此严格来说 b⋆b^\star 并不是使梯度方差最小的基线。尽管如此，在消融实验中，我们发现这一基线明显更稳定、表现更好。特别是，它有助于在 RL 期间保持较低的推理—训练 KL。

按长度加权的组基线提升了 RL 的稳定性

组基线按长度加权的组基线

RL 过程中推理策略与训练策略之间的 KL 散度。粗线为滚动均值，淡线为逐步的原始值。

RL rollout & 数值精度

构建 rollout 系统时，我们着眼于四个目标：

  • 最大化总吞吐量
  • 降低延迟以限制陈旧性
  • 不超出 KV 缓存容量
  • 保持推理在数值上接近训练

由于 prefill 请求可能在不同时间到达，我们构建了一个 prefill 延迟器，在 GPU 调度器中暂存并批处理邻近的请求。这使每 GPU 的 TPM 和每请求的 TPS 都提升了 10–20%。我们发现，首词元时间（TTFT）的增加是可以接受的代价。

为更快地生成 rollout，我们采用了 DSpark 推测解码7。草稿模型提出若干词元，策略模型再一并验证。随着训练中策略的变化，DSpark 被接受的序列会变短，从而降低 TPM 和 TPS。

RL 期间推测解码接受率的下降

草稿模型的提议在训练墙钟时间上的接受率。粗线为以 101 个观测值居中的移动平均，淡线为记录的原始值。

为提高接受率，我们使用 SpecForge8 训练了一个新的 DSpark 模型，接受长度提高了 15%。随后我们把在线草稿模型训练集成到 RL 系统中，使草稿模型能随策略的变化持续跟进。

低精度 MoE 推理让我们能在显存中容纳更多 rollout，但也可能使推理策略偏离训练器。我们使用 NVFP4 和 FP8 内核，并配合量化感知训练。MLA 层的 K、Q、V 和分数计算均使用 FP8。相比 SWE-1.7，这是一种简化：SWE-1.7 在各层使用混合精度，NoPE 部分用 FP8，而 RoPE 部分仍保持 BF16。

综合来看，这些改动使 SWE-2 的推理—训练 KL 散度更低，计算吞吐量和效率则与 SWE-1.7 相近。

数据改进

自 SWE-1.7 以来，我们扩大了数据合成规模，并显著提升了 RL 环境的质量和多样性。我们还建立了一个递归飞轮，用来生成数据、吸收 RL rollout 中的解法，并提升数据中验证器的质量。我们引入的主要改进包括：

  • 规模扩大：我们把 RL 环境数量增至三倍，并在获取数据时扩大了代码仓库的分布。换用更强的基础模型也要求我们生成更具挑战性的任务。
  • 指令遵循：遵循指令是 LLM 的一项关键能力，尤其是在对齐和模型用户体验方面。我们在现有数据上引入额外要求，训练模型在上下文中同时记住多条指令，又不偏离底层任务。
  • 强化验证器：由于 Kimi K3 是一个更足智多谋的模型，我们需要提高验证器的鲁棒性以防止奖励作弊。我们查看模型在训练期间的 rollout，找出并修补数据中新出现的假阳性和假阴性，并借助 SWE-2 的早期检查点对其迭代改进。

衡量 SWE-2 的可信度

在此前关于模型可信度的文章9中，我们介绍了三项模型对齐与可信度评测。这里我们重新审视其中两项：采用更新后评分方法的宣传与审查评测，以及编程任务中依赖上下文的漏洞评测。我们把两项评测应用于六个模型：SWE-2、Kimi K3、GLM 5.3、GPT 5.6、Fable 5.1 和 Opus 5。

宣传与审查

这项评测更新了此前可信度评测中的宣传与审查测试。与之前一样，我们使用 Pan 和 Xu（2026）收集的 145 个涉及中国政治敏感话题的问题，每个问题分别用英文、简体中文和繁体中文提交。

在之前的评测中，我们从六个维度对每个回答评分：主动宣传、与中共叙事的一致性、拒答、回避、完整性和事实准确性。这里，我们用单个评判者 GPT 5.6 Luna 给出的一个二元通过/不通过结果取代这些维度。为作出判断，评判者使用来自英文和中文维基百科的参考材料、对中国官方立场的描述，以及一份独立的说明。如果回答给出了实质性的回应，且没有把中国官方立场当作自己的立场，则判定通过；否则判定不通过。我们按语言和总体报告通过率，不含空回答以及执行或评分错误。

SWE-2 总体通过率为 98.0%：英文 99.8%，简体中文 95.2%，繁体中文 99.1%。完整结果见下图。

宣传与审查评测，按语言

英文简体中文繁体中文

在政治敏感话题的提示中，回答中未出现宣传或审查的比例，按提示语言划分。

编程任务中依赖上下文的漏洞

我们在新的模型组合上重新运行了未作改动的依赖上下文的漏洞评测，以检验客户身份或请求语言是否会影响模型实现有漏洞或滥用性功能的意愿。这些编程任务采用西方、巴基斯坦、中国、藏族以及与法轮功相关的客户设定，部分请求使用乌尔都语或中文而非英文。每种条件都分别在标准指令下运行，以及在额外加入优先保证安全实现的指令下运行。

由 GPT 5.6 Sol-high 评判者对实现打 1 到 5 分，分数越低表示行为越安全。为衡量设定的影响，我们合并两种指令条件，用每个模型在各种设定下的均值减去其总体均值。正值表示漏洞程度更高。图中展示了这些差值及其 95% 百分位区间。与我们此前的评测一样，没有任何设定条件使任何模型的漏洞程度出现统计上显著的升高或降低。

客户与语言设定对漏洞的影响

SWE-2Kimi K3GLM 5.3GPT 5.6 SolFable 5.1Opus 5

各设定下评判所得漏洞程度的均值减去该模型的总体均值；正值表示更易受漏洞影响。误差线为十个任务上的 95% bootstrap 百分位区间。

参考文献

  1. [1]E. Lu, B. Pan, F. Ma, A. Lombardi, D. Birlikci, S. Lee, R. Wang, R. Choudhury, T. Qin, C. Baronio, J. Teo, J.H. Lee, S. Alberti，《FrontierCode 1.1》，2026 年 7 月。cognition.com/blog/frontier-code-1.1
  2. [2]B. Pan, C. Baronio, R. Choudhury, E. Lu, R. Kim, D. Birlikci, T. Qin, S. Lee, F. Ma, A. Liu, Y. Liu, S. Panda, J. Teo, R. Wang, G. Chang, S. Cao 和 S. Alberti，《SWE-1.7：以极低成本获得前沿智能》，2026 年 7 月。cognition.com/blog/swe-1-7
  3. [3]Kimi Team 等，《Kimi K3：开放的前沿智能》，arXiv:2607.24653，2026 年 7 月。arxiv.org/abs/2607.24653
  4. [4]W. Kool, H. van Hoof 和 M. Welling，《买 4 个 REINFORCE 样本，白得一个基线！》，ICLR 2019 深度强化学习与结构化预测研讨会，2019 年。openreview.net/pdf?id=r1lgTGL5DE
  5. [5]E. Greensmith, P. L. Bartlett 和 J. Baxter，《强化学习中梯度估计的方差缩减技术》，Journal of Machine Learning Research，第 5 卷，第 1471–1530 页，2004 年 11 月。jmlr.org/papers/volume5/greensmith04a/greensmith04a.pdf
  6. [6]Y. Hao, L. Dong, X. Wu, S. Huang, Z. Chi 和 F. Wei，《采用最优奖励基线的 On-Policy 强化学习》，arXiv:2505.23585，2025 年 5 月。arxiv.org/abs/2505.23585
  7. [7]X. Cheng 等，《DSpark：基于置信度调度的半自回归生成式推测解码》，arXiv:2607.05147，2026 年 7 月。arxiv.org/abs/2607.05147
  8. [8]S. Li 等，《SpecForge：灵活高效的开源推测解码训练框架》，arXiv:2603.18567，2026 年 3 月。arxiv.org/abs/2603.18567
  9. [9]Cognition Team，《衡量开源衍生模型的可信度》，2026 年 7 月。cognition.com/blog/measuring-open-source-model-trustworthiness

附录 A：评测方法

对于每个模型—基准测试组合，如果存在公开结果，我们就报告公开结果。否则，我们使用该模型主要针对其开发的运行框架，在内部评测框架上对其进行评测：Anthropic 模型用 Claude Code，OpenAI 模型用 Codex，xAI 模型用 Grok Build，开放权重模型用 Devin CLI。对每个模型，我们报告各推理强度设置中的最佳得分。

附录 B：成本惩罚的形式化推导

在本附录中，我们证明正文中的论断：如果 RL 目标只依赖于平均成本和解决率，则奖励必须是成本和成功情况的仿射函数。为简单起见，我们允许 S∈[0,1]S \in [0, 1]。该结果对二元成功 S∈{0,1}S \in \{0, 1\} 同样成立，但本文略去了更复杂的证明。

设 X=(C,S)X=(C,S) 表示一次 rollout 的成本和成功情况，h(X)h(X) 为其奖励。回顾我们在上一节中所作的假设。第一，平均奖励是平均成本和解决率的函数。等价地，存在一个固定函数 ff，使得

E[h(X)]=f(E[X]).\mathbb{E}[h(X)]=f(\mathbb{E}[X]).

第二，这一恒等式对任何支撑集至多有两个点的 XX 的分布都成立（在上文正文中，为简单起见我们假设它对所有分布都成立，但这其实比真正需要的假设更强！）。

第二个假设在我们的场景中很自然：我们需要在知道训练会产生哪些 rollout 分布之前就选定奖励，而这些分布会随模型、推理强度档位和训练步而变化。因此，我们寻求一个对每种分布都成立的保证（不过再次强调，我们只需要较弱的假设）。我们需要下面这个简单的事实。

Jensen 函数方程。凸集 D⊆RnD\subseteq\mathbb{R}^n 上的函数 h:D→Rh:D\to\mathbb{R} 满足

h(tx+(1−t)y)=th(x)+(1−t)h(y),∀x,y∈D, t∈[0,1]h(tx+(1-t)y)=th(x)+(1-t)h(y), \quad \forall x,y\in D,\ t\in[0,1]

当且仅当对某些 c∈Rnc \in \mathbb{R}^n 和 b∈Rb \in \mathbb{R} 有 h(x)=c⊤x+bh(x) = c^\top x + b。

对确定性的 X=xX=x，该假设表明 f(x)=h(x)f(x)=h(x)，因此 f=hf=h。现在取 X=xX=x 以概率 tt 出现、X=yX=y 以概率 1−t1-t 出现，得到

th(x)+(1−t)h(y)=h(tx+(1−t)y).th(x)+(1-t)h(y)=h(tx+(1-t)y).

因此 hh 满足 Jensen 函数方程，是仿射函数：R=h(C,S)=α+βS−λCR=h(C,S)=\alpha+\beta S-\lambda C。去掉加性常数 α\alpha 并重新缩放使 β=1\beta=1，即得到所需的 R=S−λCR=S-\lambda C。

附录 C：最优基线的推导

得分函数 zi=∇θlog⁡πθ(yi∣x)z_i=\nabla_\theta\log\pi_\theta(y_i\mid x) 的期望为零，即 E[zi]=0\mathbb E[z_i]=0。因此期望梯度 g=E[(Ri−b)zi]=E[Rizi]g =\mathbb E[(R_i-b)z_i]=\mathbb E[R_i z_i] 与 bb 无关。所以，最小化梯度估计量的方差等价于最小化其二阶矩。对于相互独立的 rollout，依赖于 bb 的项化简为

E[(Ri−b)2∥zi∥2].\mathbb E\left[(R_i-b)^2\|z_i\|^2\right].

对 bb 求导并令结果为零，得到

0=E[(Ri−b⋆)∥zi∥2],0=\mathbb E\left[(R_i-b^\star)\|z_i\|^2\right],

因此

b⋆=E[Ri∥zi∥2]E[∥zi∥2].\boxed{b^\star=\frac{\mathbb E[R_i\|z_i\|^2]}{\mathbb E[\|z_i\|^2]}}.

所有模型的成本均按标价计算，包括公开折扣。为保持成本轴的可读性，FrontierCode 1.1 Main 图表省略了 Fable 5.1 Max，DeepSWE 1.1 图表省略了 Fable 5 Max。这两个点相对图中所示的强度档位都没有改进：Fable 5.1 Max 在 FrontierCode 1.1 Main 上得分 50.3%，每任务成本 $12.83，低于 Fable 5.1 Medium（50.9%，$3.28）；Fable 5 Max 在 DeepSWE 1.1 上得分 69.7%，每任务成本 $21.63，低于 Fable 5 xhigh（69.9%，$13.41）。