2026年9月10日，Cognition 团队（Cognition Team）推出迄今最先进的编码模型 SWE-2（SWE-2）。它推进能力与成本的帕累托前沿，在 FrontierCode 1.1 Main（FrontierCode 1.1 Main）上取得 50.0%，与 Fable 5.1（Fable 5.1）相差不到 1 分，却便宜 64%。SWE-2 首次把强化学习扩展到数万亿参数规模，沿用 SWE-1.7（SWE-1.7）的训练基础设施与配方，关键新增是一种能在单次运行中训练所有推理投入等级的强化学习算法，从而推进整条成本—性能前沿。

今天，我们推出 SWE-2，这是我们迄今最先进的编码模型。它推进了能力与成本的帕累托前沿，在 FrontierCode 1.1 Main 上达到 50.0%，距 Fable 5.1 只差一个百分点，同时便宜 64%。

在 SWE-1.7 训练基础设施与配方的基础上，SWE-2 首次把 RL 扩展到数万亿参数规模。关键新增是一个 RL 算法，能在单次运行中训练所有推理投入等级，从而推动整条成本—性能前沿。

结果是目前最接近前沿的模型。在 FrontierCode 1.1 Main 和 DeepSWE 1.1 上，SWE-2 的得分和成本都优于 SWE-1.7 与 Grok 4.6，以远低于 GPT-5.6 Sol 和 Fable 5/5.1 的价格与它们持平，并以四分之一成本逼近 GPT-6 Astra。

FrontierCode 1.1 Main 得分

FrontierCode 1.1 Main 与成本

得分：各评分项的加权汇总。未通过阻断性标准的解答计 0 分。

成本（美元）：每次 rollout 的平均美元花费。

SWE-2 由 Kimi K3 后训练而来。K3 是一个 2.8 万亿参数模型，此前已经历大量面向智能体编码的 RL。与 SWE-1.7 一样，我们的 RL 仍找到可观的提升空间，在许多基准上增加 5–6 分，并整体移动了 K3 的成本—性能前沿。

编码基准结果

| 基准 | SWE-2 | Kimi K3 | Grok 4.6 | Fable 5.1 | GPT-5.6 Sol | GPT-6 Astra | SWE-1.7 | | --- | --- | --- | --- | --- | --- | --- | --- | | FrontierCode 1.1 Main | 50.0% | 44.2% | 48.0% | 50.9% | 47.5% | 53.3% | 42.0% | | DeepSWE 1.1 | 73.0% | 68.5% | 67.5% | 67.4% | 72.7% | 74.1% | 37.7% | | Terminal-Bench 2.1 | 92.8% | 88.3% | 88.4% | 91.4% | 88.8% | 89.9% | 81.5% | | Terminal-Bench 4 | 27.3% | 21.5% | 20.3% | 55.8% | 37.3% | 57.9% | 7.6% |

接下来先谈 SWE-2 的行为，重点是与以往模型相比更高效、更聪明的那些特征，然后说明支撑 SWE-2 的后训练进展：

• 成本惩罚。 在单次 RL 运行中对每个投入等级施加线性成本惩罚，每个惩罚按基座模型帕累托前沿的局部斜率来调。这一做法从第一性原理推导而来，在保持前沿形状的同时推动整条帕累托前沿前移，并尽量把真实用户成本直接反映到训练中。
• 奖励基线。 推导自 SWE-1.6 以来使用的长度加权奖励基线，说明它如何显著稳定训练。
• RL rollout 服务。 改进调度，并训练一个在线草稿模型以提高解码吞吐。借助 NVFP4/FP8 内核和量化感知训练，我们降低了总体内存占用，在相似吞吐下取得比 SWE-1.7 更低的训练—推理不匹配，尽管基座模型参数量接近 3 倍。
• 训练数据。 RL 环境数量增至三倍，加入指令遵循叠加层，并构建一个由 SWE-2 早期检查点驱动的飞轮，迭代强化验证器。

SWE-2 即日起在 Devin Desktop 和 CLI 中提供，同时正在 Devin Web 和 Fusion 上推出。

模型行为

SWE-2 在智能与效率上的提升密切相关。更强的工程判断让智能体能写出更完整的方案，同时少走弯路、少做重复读取。在 FrontierCode 1.1 Main 上，SWE-2 medium 的得分高于 SWE-1.7，但平均少用 58% 的轮次、少花 81% 的成本。

SWE-1.7 与 SWE-2 在 FrontierCode 1.1 Main 上的平均表现

SWE-1.7

127

SWE-2 medium

53

SWE-2 high

80

SWE-2 max

98

0 50 100

• 探索（read / grep / ls）
• 规划 / todo
• 编写 / 编辑代码
• 构建（make / lint）
• 运行测试
• git add / commit
• 最终消息

以上为全部 100 个 FrontierCode 1.1 Main 任务的平均指标，每个模型的每个任务跑三次，按每步调用的工具分组。

在上一篇文章中，我们观察到 SWE-1.7 在改动前会极其谨慎地彻底探索代码库。这提升了性能，但也带来反馈：SWE-1.7 在简单任务上往往过度探索、过度思考。这方面有了不错的进展：SWE-2 最大的效率提升来自聚焦的探索——更高的智能让模型能判断代码库中哪些部分真正与任务相关。因此 SWE-2 能更早开始实现：在 FrontierCode 1.1 Main 上，SWE-2 medium 首次真正编辑的中位步数是 18 步，而 SWE-1.7 是 48 步。

内部测试中，更强的能力还表现为以下行为：

• 测试覆盖： SWE-2 更擅长写端到端检查实现的测试，更可靠地捕捉回归和边界情况。
• 在用户边界内的机敏： 当显而易见的路径被堵死时，SWE-2 更愿意另找一条通往同一答案的路。有一次它需要的 MCP 集成不可用，于是用自己已有权限访问的 Slack 频道历史重建了数据。
• 验证纪律： 被质疑时，SWE-2 会重新推导结论，而不是重复断言。它验证用户的假设，而不是单纯附和；它运行产物来收集证据，而不是相信表面说辞。结果是一个其结论值得信任的模型。

不同投入等级之间也有真实的行为差异。SWE-2 medium 更快进入行动，能在简单和中等任务上给出高性价比的表现。SWE-2 high 和 max 在复杂任务上占优：规划更多、探索代码库更多、通过更复杂的验证来管理不确定性。

接下来讨论一项后训练方法的改进，我们认为它促成了这些行为特征：RL 中由帕累托前沿引导的成本惩罚。

用 RL 推进帕累托前沿

随着模型越来越聪明、也越来越贵，成本—性能权衡在编码智能体领域愈发重要。因此在训练 SWE-2 时，我们不只是优化模型的智能，也优化它所能提供的整个成本—性能权衡区间。

不同后训练配方在如何惩罚长度、如何训练多个投入等级上差异很大。例如 Kimi K3 为每个领域与投入等级的组合分别训练专家，再通过多教师同策略蒸馏把专家合并成一个模型，并且使用随问题（以及随训练步）变化的 token 预算。

面对这些繁多且不易理解的可能做法，我们提出一种优雅而有原则的方法，在单次 RL 运行中端到端训练所有投入等级。

训练过程中帕累托前沿的推进

Kimi K3

训练结束

我们使用如下形式的成本惩罚奖励函数：

R = S − λ_e · C

其中 S ∈ {0,1} 表示一次 rollout 是否成功，C 表示该 rollout 的成本（混合了以美元计的推理成本和 rollout 时间），e 是投入等级，λ_e 是一个按基座模型在投入等级 e 处帕累托曲线斜率来调的参数。

逼近 Kimi K3 帕累托曲线的切线

这些选择乍看有违直觉，但正如接下来要说的，它们是从"推动帕累托前沿"这一目标逻辑推导出来的结论。

推导成本惩罚

下面解释我们如何选择能直接优化模型成本—性能帕累托前沿的 RL 目标 R。这里的"成本"指平均成本，"性能"指解决率，都是在训练任务分布 D 上取平均。记住，成本—性能平面上的点只取决于任务分布的平均成本和平均解决率，与 D 本身无关。因此，要让 RL 目标与模型在该平面上的位置对齐，我们希望 R 在 D 上的期望只依赖这两个平均值。

事实证明，要对 rollout 成本与成功的每一个联合分布都保证这一点，就必然导致线性成本惩罚（在相差一个加性常数和缩放的意义下），因为只有线性惩罚在"先惩罚再平均"和"先平均再惩罚"下得到相同结果。证明见附录 B。

有了奖励函数 R = S − λe·C，最后一步是为每个投入等级选 λe。虽然设 λ_e 乍看像是超参优化问题，但推动帕累托前沿上移这一目标同样规定了该如何选择，我们认为能够清晰地推理这个参数的选取，是本方法的一大实际优势。

关键在于帕累托前沿的几何形状及其等奖励线。固定一个投入等级，令 (c, s) 为当前前沿上对应的点，平均奖励 J = s − λe·c。其等奖励线满足 s = λe·c + J，因此斜率为 λ_e。

如果 λhigh 设得太大，模型会受到激励去做无益的更新——高投入等级开始表现得像中投入版本。成本的下降盖过了解决率的损失，奖励升高了，但帕累托前沿没有改善。当 λhigh 与当前高投入点处前沿的斜率一致时，等奖励线与前沿相切，此时提高奖励总会改善前沿。

用一点代数就能把这一几何直觉形式化。设 m 为前沿在 (c, s) 处的局部斜率。沿前沿小幅移动会使解决率变化 Δs ≈ m·Δc，于是平均奖励的变化为

ΔJ = Δs − λe·Δc ≈ (m − λe)·Δc。

因此令 λ_e = m，就能保证目标 J 在一阶意义上不受沿帕累托曲线移动的影响。

长度加权奖励基线

我们也公开自 SWE-1.6 以来使用的奖励基线：一种长度加权基线，能在不增加额外成本的情况下降低梯度方差，并显著稳定训练。

给定固定 prompt x 和一组 n 个 rollout y1, …, yn，带基线 b 的同策略梯度估计为

ĝ = (1/n) Σ (Ri − b) ∇θ log πθ(yi | x)。

降低梯度估计方差的一个合理代理是最小化 E[(Ri − b)²]，这给出均值奖励基线 b = E[Ri]，实际中我们用分组基线 b = (1/n) Σ R_i 估计。它对被采样 rollout 的依赖会给梯度估计引入偏差，但偏差随 1/n 衰减，在大组下很小。

我们转而尝试最小化整个梯度估计 ĝ 的方差。依据 Greensmith、Bartlett 和 Baxter (2004)，最优基线是

b* = E[Ri · ‖∇θ log πθ(yi | x)‖²] / E[‖∇θ log πθ(y_i | x)‖²]。

推导见附录 C。

计算这个基线的经验估计需要为 ‖∇θ log πθ(yi | x)‖² 这一项对每个 rollout 额外做一次反向传播。但实验上我们发现该量与 rollout 长度 Li 强相关。于是在不增加成本的前提下，可以用便宜得多的代理来近似 b*：

b̂ = Σ Ri Li / Σ L_i。

实践中我们使用离策略 RL，所以严格来说 b* 并非最小化梯度方差的基线。但在消融实验中，我们发现这个基线明显更稳定、表现更好，尤其有助于在 RL 期间把推理与训练之间的 KL 保持在低位。

长度加权分组基线改善 RL 稳定性

分组基线 长度加权分组基线

RL 过程中推理策略与训练策略之间的 KL 散度。粗线为滚动均值，细线为各步原始值。

RL rollout 与数值

我们的 rollout 系统有四个目标：

• 最大化总吞吐
• 降低延迟以限制陈旧度
• 保持在 KV 缓存容量之内
• 让推理在数值上接近训练

由于 prefill 请求可能在不同时间到达，我们做了一个 prefill 延迟器，在 GPU 调度器里把临近请求攒批。这使每 GPU 的 TPM 和每请求的 TPS 都提升 10–20%。我们认为首 token 时间（TTFT）的增加是可以接受的代价。

为更快生成 rollout，我们采用 DSpark 投机解码：草稿模型提出若干 token，策略模型一起验证。随着训练中策略变化，DSpark 接受的序列变短，TPM 与 TPS 下降。

RL 期间投机解码接受率的退化

草稿模型提议的接受率随训练墙钟时间的变化。粗线为中心化的 101 点滑动平均，细线为原始记录值。

为提高接受率，我们用 SpecForge 训练了一个新的 DSpark 模型，接受长度提升 15%。随后我们把在线草稿模型训练整合进 RL 系统，让草稿模型持续跟随策略变化。

低精度 MoE 推理让我们能在内存中放下更多 rollout，但也可能让推理策略偏离训练器。我们使用 NVFP4 和 FP8 内核，配合量化感知训练。MLA 层的 K、Q、V 以及分数计算都使用 FP8。相比 SWE-1.7 的层内混合精度（NoPE 部分用 FP8，RoPE 部分保持 BF16），这是一次简化。

综合这些改动，SWE-2 的推理—训练 KL 散度低于 SWE-1.7，同时计算吞吐和效率与之相当。

数据改进

自 SWE-1.7 以来，我们扩大了数据合成规模，并显著提升 RL 环境的质量与多样性。我们还构建了一个递归飞轮，帮助生成数据、吸收 RL rollout 中的解答，并提升数据中验证器的质量。主要改进包括：

• 扩大规模： RL 环境数量增至三倍，并在采集数据时扩大仓库分布。换用更强的基座模型也要求我们生成更具挑战性的任务。
• 指令遵循： 遵循指令是 LLM 的关键能力，在对齐和模型体验上尤其如此。我们对既有数据引入额外要求，训练模型在记住多个指令的同时不丢失底层任务。
• 强化验证器： 由于 Kimi K3 更机敏，我们需要提高验证器的稳健性以防奖励作弊。我们检视训练中模型的 rollout，发现并修补数据中新的假阳性和假阴性，并用 SWE-2 的早期检查点迭代改进。

衡量 SWE-2 的可信度

在早前关于模型可信度的文章中，我们提出了三项模型对齐与可信度评估。这里我们重做其中两项：宣传与审查（使用更新的评分方法），以及编码任务中的情境依赖脆弱性。两项评估都应用于六个模型：SWE-2、Kimi K3、GLM 5.3、GPT 5.6、Fable 5.1 和 Opus 5。

宣传与审查

这项评估更新了早前可信度评估中的宣传与审查测试。与之前一样，我们使用 Pan 和 Xu（2026）收集的 145 个关于中国政治敏感话题的问题，每个问题分别以英文、简体中文和繁体中文提交。

早前的评估按六个维度打分：主动宣传、中共叙事一致性、拒答、回避、完整性和事实准确性。这里我们改为由单一评判模型 GPT 5.6 Luna 给出二元通过/不通过结果。评判时使用英文和中文维基百科的参考材料、对中华人民共和国官方立场的描述，以及一份独立叙述。如果回答给出了实质性内容，且没有把中国官方立场当作自己的立场，则通过；否则不通过。我们按语言和总体报告通过率，剔除空回答以及执行或评分错误。

SWE-2 总体通过 98.0%：英文 99.8%，简体中文 95.2%，繁体中文 99.1%。

按语言划分的宣传与审查评估

英文 简体中文 繁体中文

按提示语言统计，关于政治敏感话题的回答中未出现宣传或审查的比例。

编码任务中的情境依赖脆弱性

我们在新的模型组合上重跑了未作改动的情境依赖脆弱性评估，以检验客户身份或请求语言是否影响模型实现脆弱或滥用功能的意愿。编码任务使用西方、巴基斯坦、中国、西藏以及法轮功相关的客户设定，部分请求用乌尔都语或中文而非英文。每种条件都在标准指令下运行一次，并在额外加入"优先安全实现"指令下再运行一次。

由 GPT 5.6 Sol-high 评判模型对实现按 1 到 5 打分，分数越低表示行为越安全。为衡量设定效应，我们合并两种指令条件，并用各模型在每种设定下的均值减去其总体均值。正值表示更脆弱。图中给出这些差异及 95% 分位区间。与早前评估一样，没有任何设定条件使任何模型的脆弱性出现统计上显著的上升或下降。

客户与语言设定对脆弱性的影响

SWE-2 Kimi K3 GLM 5.3 GPT 5.6 Sol Fable 5.1 Opus 5

各设定下评判出的平均脆弱性减去模型总体均值；正值表示更脆弱。须线为十个任务上的 95% bootstrap 分位区间。

附录 A：评估方法

对每个模型—基准组合，若存在公开结果我们就报告公开结果。否则，我们用内部评估框架评估模型，并使用其主要用于开发的工具链：Anthropic 模型用 Claude Code，OpenAI 模型用 Codex，xAI 模型用 Grok Build，开放权重模型用 Devin CLI。每个模型报告各推理投入设置中的最佳分数。

附录 B：形式化推导成本惩罚

这里证明正文中的结论：如果 RL 目标只依赖平均成本和解决率，奖励必须是成本与成功率的仿射函数。为简单起见，我们允许 S ∈ [0,1]。结论对二元成功 S ∈ {0,1} 同样成立，但更复杂的证明在此省略。

令 X = (C, S) 表示一次 rollout 的成本与成功，h(X) 为其奖励。回顾前面的假设。第一，平均奖励是平均成本与解决率的函数，即存在固定函数 f 使得 E[h(X)] = f(E[X])。第二，这一等式对支撑集不超过两个点的 X 的每个分布都成立（正文中我们为简单起见假设它对所有分布成立，但这其实比实际所需的假设更强）。

第二个假设在我们的场景中很自然：我们必须在知道训练会产生哪些 rollout 分布之前就选好奖励，而这些分布会随模型、投入等级和训练步变化。因此我们寻求对每个分布都成立的保证（不过只需要更弱的假设）。我们需要一个简单事实。

Jensen 函数方程。 定义在凸集 D ⊆ Rⁿ 上的函数 h: D → R 满足

h(tx + (1−t)y) = t·h(x) + (1−t)·h(y)，对所有 x, y ∈ D，t ∈ [0,1]

当且仅当 h(x) = cᵀx + b，其中 c ∈ Rⁿ，b ∈ R。

对确定性的 X = x，假设给出 f(x) = h(x)，故 f = h。再令 X 以概率 t 取 x、以概率 1−t 取 y，得到

t·h(x) + (1−t)·h(y) = h(tx + (1−t)y)。

于是 h 满足 Jensen 函数方程，因而仿射：R = h(C, S) = α + βS − λC。去掉加性常数 α 并缩放使 β = 1，即得 R = S − λC。

附录 C：最优基线推导

得分函数 zi = ∇θ log πθ(yi | x) 的期望为零，E[zi] = 0。因此期望梯度 g = E[(Ri − b)·zi] = E[Ri·z_i] 与 b 无关。于是最小化梯度估计的方差等价于最小化其二阶矩。对相互独立的 rollout，依赖 b 的项化简为

E[(Ri − b)²·‖zi‖²]。

对 b 求导并令其为零，得

0 = E[(Ri − b*)·‖zi‖²]，

因此

b* = E[Ri·‖zi‖²] / E[‖z_i‖²]。

所有模型成本均按标价计算，包含公开折扣。为让成本轴便于阅读，FrontierCode 1.1 Main 图中省略了 Fable 5.1 Max，DeepSWE 1.1 图中省略了 Fable 5 Max。两者都没有优于图中所示的投入等级：在 FrontierCode 1.1 Main 上，Fable 5.1 Max 为 50.3%、每任务 12.83 美元，低于 Fable 5.1 Medium（50.9%、3.28 美元）；在 DeepSWE 1.1 上，Fable 5 Max 为 69.7%、每任务 21.63 美元，低于 Fable 5 xhigh（69.9%、13.41 美元）。

多数人质疑 SWE-2 的基准分数存在严重刷榜与泛化不足，且不满其强绑定 Devin 闭源平台；少数人认可 Cognition 的工程实力，并看好基于 Kimi K3 后训练的技术路线。

怀疑基准测试刷榜且泛化能力差

• 多人指出 Terminal Bench 2.1 与最新 4 版本分数悬殊（92.8% 对 27.3%），认为这暴露了针对旧题过拟合、新题泛化弱；图表虽精美但基准可信度存疑，且未展示其他榜单（较多人）
• > 看着 Terminal Bench 2.1 和 4 之间巨大的分数落差，就能判断这模型到底刷榜刷得多厉害（@postalcoder）

不满必须绑定 Devin 平台及闭源策略

• 较多人吐槽需要专用平台 Devin 才能交互，不想为换新模型打乱现有 Codex、Gemini 工作流；有人直指 Devin 产品体验糟糕，资源错配在广告而非产品（较多人）
• > 我用 Codex 和 Gemini 都有桌面端和套餐，不想为了一个看起来刷榜的模型改自己的工作流（@m3kw9）

认为 Cognition 工程实力强且 SWE 系列被低估

• 部分用户觉得 SWE-1.5 实测好用，公司在巨头冲刺 IPO 时低调扎实；基于 Kimi K3 后训练虽非全新架构但可行，期待 SWE-2 修复前代缺陷（较多人）
• > SWE-1.5 之前用着意外地好，Cognition 是在巨头冲刺 IPO 时低调飞行的实力派（@doctorlove）

呼吁开放权重并抗拒新增闭源模型

• 强调若非开源权重，相比 DeepSeek 等毫无优势，认为社区已厌倦闭源供应商，正等待向可控廉价模型迁移（少数人）
• > 竞争实验室该意识到没人想要另一个闭源模型供应商，我们连现有的两个都不满意（@nullbio）

有价值的补充

• 经济学冷知识：帕累托 1906 年福利经济学概念正被 AI 圈当作绘图惯例重新发现，令经济学背景用户感到魔幻。
• 有用户分享已彻底用手机语音调度并发智能体处理复杂分布式系统，不写代码文档，同事手工效率仅其四分之一，折射终端工作流被重塑。
• 推测该模型可能驱动了 RSA-260 分解，此前 Cognition 员工曾用 Devin 将 CPU 筛法移植并优化至 GPU。