我们推出对比语言模型（Contrastive Language Models，CLMs），这是一种采用对比学习目标连接状态与动作的新型系统一模型。发布CLM-8B，其在60M Nemotron问答对上预训练，30M合成困难负样本上中期训练，1M智能体轨迹上后训练。CLM-8B在计算机使用、游戏和工具调用任务上性能媲美Jev，延迟最高降低9×。通过轻量微调，CLM-8B在智能体编码基准DeepSWE（81.6%）和Terminal Bench 2.1（87.6%）上创下新的SOTA。

我们推出对比语言模型（CLMs），这是一类通过连接状态与动作的对比学习目标训练而成的系统一型模型。

我们发布 CLM-8B，它在 6000 万 Nemotron 问答对上预训练，在 3000 万合成困难负例上中期训练，并在 100 万智能体轨迹上后训练。

CLM-8B 在计算机使用、游戏和工具调用任务上表现出与 Jev 相当的性能，同时延迟降低至多 9 倍。经过轻量微调，CLM-8B 还在具有挑战性的智能体编码基准上创下新的 SOTA，包括 DeepSWE（81.6%）和 Terminal Bench 2.1（87.6%）。

我们通过解耦状态与动作，为 CLM 构建了极致高效的训练与服务基础设施，使它们的嵌入能够独立缓存和复用。

我们确立了 CLM 的缩放定律，表明测试对比损失随训练算力、模型大小和数据集大小呈可预测的功率律下降。

CLM 首先在大尺度数据集上以对比目标（InfoNCE）训练状态编码器和动作编码器，使每个状态被拉向所采取的真实动作，并推离所有其他动作。这两个编码器随后直接作为零样本动作分类器使用。

在部署时，给定当前状态和一组候选动作，CLM 根据各动作嵌入与状态嵌入的对齐程度打分，并选择得分最高的动作。

在计算机使用、游戏和工具调用任务中，CLM-8B 与 Jev 表现持平，同时运行速度快至多 9 倍。当候选动作数量大（如 WikiRacing）或动作可在状态间频繁复用时（如 T-Rex 游戏），加速最为明显。

我们发现 Jev 无法作为长程任务的验证器，表现低于随机选择的（Pass@1）基线。相比之下，经过轻量微调，CLM 在困难的智能体基准上达到 SOTA，包括 DeepSWE（81.6%）和 Terminal-Bench 2.1（87.6%），同时推理比 Jev 快 4–6 倍。

CLM 由状态编码器和动作编码器组成（如图 1）。两个编码器将各自输入映射到共享嵌入空间，状态-动作对的分数由它们嵌入的余弦相似度计算。

每个编码器由一个冻结的 LLM 主干和一个可训练的投影头组成。我们取最后一个隐藏状态、归一化后送入 MLP 投影头。仅训练 2000 万参数的投影头，LLM 保持冻结且不接收梯度。这一设计使缩放实验成本低廉：只需预计算一次 LLM 嵌入，便可复用于不同设置的投影头训练。在单张 RTX 4090 GPU 上，Nemotron DQA 数据集的完整预训练约需一小时。

最重要的是，由于状态与动作解耦，它们的嵌入可以独立缓存。在状态连续演变（如超级马里奥）而动作集固定的场景中，我们只需每步重算状态嵌入，即可复用缓存的动作嵌入。这大幅降低推理成本，且随着候选动作数和上下文长度增长，效率提升愈发显著。在约 1000 候选时，CLM 比 Jev 快 13 倍。

4 个动作嵌入在游戏开始前预计算。每步仅新游戏状态通过状态编码器，其嵌入 zs 与缓存的动作嵌入 za 打分，执行最高分动作。这将每步成本从 5 次前向传播降至 1 次。

CLM 采用双向 InfoNCE 损失训练，并在中期训练中用硬负例扩展该目标，使正样本对在双向被检索优化。

我们发现测试 InfoNCE 损失 L 随训练算力 C、数据集大小 D、投影头大小 N 和编码器大小 Nenc 呈功率律缩放。这些维度必须联合缩放以实现最优验证性能，各自依赖关系可写为 L(X) ≈ (Xc / X)^{αX}（Xc 为拟合常数，α_X 为缩放指数，遵循 Kaplan 等人）。值得注意的是，缩放编码器大小带来的收益最强。实验在 Nemotron DQA 数据集进行，并在留出数据集评估。

我们固定算力预算 C，绘制测试损失相对于投影头参数数量 N 的曲线，每条曲线对应不同数据预算 D。在对数参数空间中，每条等 FLOP 曲线近似抛物线，其最小值指明该数据预算下的最优头大小。随着预算增长，最优点稳定移向更大的头。具体而言，最优大小随训练 token 数近乎线性增长（N* ∝ D^{1.02}），约每参数 310 个 token。

CLM 分三个阶段训练，逐步引入更困难的状态-动作对齐：预训练学习广泛语义表征，中期训练发展细粒度判别，后训练将表征空间适配于动作分类。

阶段一——预训练：我们在含约 6000 万对 Nemotron DQA 的互联网级问答数据集上预训练 CLM，将问题视为状态、答案视为对应动作，从多样语料中学得广泛语义表征。

阶段二——中期训练：引入约 3000 万由 Gemini 2.5 Flash-Lite 生成的合成困难负例，为部分问题构造语义相似但错误的答案，纳入 InfoNCE 损失以启用更细粒度的判别。

阶段三——后训练：在约 100 万来自 Agent Data Protocol (ADP) 数据集的智能体轨迹上后训练，并补充 Endless-Terminals、LiteCoder-Terminal-SFT 的终端追踪。每步轨迹表示为状态-动作对，状态含当前上下文，动作为该步决策，从而适配智能体环境中的动作分类。

我们在预训练后立即评估 CLM-8B。如上图，当被问“谁写了《罗密欧与朱丽叶》”时，Qwen3-8B 嵌入将最高概率分配给错误答案，并将“William Shakespeare”排第三；而 CLM-8B 正确地以 54.2% 将“William Shakespeare”排第一。这表明预训练将模型表征重塑为有用的决策空间。

为保留预训练学到的通用表征，我们采用数据重放的联合训练，而非仅在智能体轨迹上微调。具体而言，后训练混合中 40% 为 Nemotron DQA 样本，其余 60% 为智能体轨迹。

这种重放大幅缓解了灾难性遗忘：使用重放时，Nemotron 硬负例 top-1 准确率仅从 69% 微降至 68.5%；而在相同智能体步数下仅用智能体数据训练，准确率跌至 56.2%。

我们在固定算力预算下比较两种训练策略：

• 预训练+中期训练：用双向 InfoNCE 在全量 Nemotron DQA 语料预训练，再短暂中期训练硬负例。
• 从零硬负例：从一开始联合训练 DQA 与硬负例。

我们在约 10 万留出问题上评估，每题一个标准答案和 10 个硬负例，top-1 准确率衡量标准答案是否排最高。结果发现仅预训练在未见过硬负例时达 52.1%，短暂中期训练后升至 69.2%；而从零训练硬负例虽提升快但过拟合，峰值仅 62.4%。两阶段方案在固定预算下准确率高出 7%。

要点：硬负例最好作为预训练之上的精炼信号，而非替代。

CLM 在 GitHub 上提供 playground，写入状态、添加类型化问题，即可在毫秒内看到 CLM 在答案上的完整概率分布。

CLM 开启了可扩展、可靠且快速的验证新方向。CLM-8B 是我们缩放阶梯的一部分，通过跨多尺度训练模型确立缩放定律并预测更大规模性能。多模态 CLM-35B 正以更多数据、算力和参数训练中，下月初发布。后续计划探索缩放实验至更大主干、视觉与多模态支持，以及扩展数据配方等方向。

社区对对比语言模型（CLM）的训练透明度和架构解耦普遍赞赏，但强烈质疑其与远程 Jev 的延迟对比公平性，且反感“System One”成为“快”的噱头；少数人深入探讨了其作为“分类”还是“策略”的本质分歧。

质疑与远程 Jev 的延迟对比公平性

• 较多人指出 Jev 运行在远程服务器，本地 GPU 与网络跳数的对比不公平，实际运行时间可能相近，原帖的延迟论据站不住脚。有用户在 H100 上实测耗时与 Jev 接近，印证了网络延迟可能是主因。 > 延迟对比对 Jev 没多大价值，因为它跑在远程服务器上，最近开源的类 Jev 模型才更值得比较（@mugul）

反感将技术套用“System One”心理学框架

• 较多人反感将卡尼曼的心理学框架套用在仅表示“快”的模型上，指出该框架本意是理解大脑而非指代自主系统，滥用术语会误导社区。 > 求求了别叫它 System One，连卡尼曼都说这只是理解大脑内在运作的框架，根本没有所谓的自主系统（@khalic）

赞赏训练透明度与消费级硬件潜力

• 较多人觉得公开训练步骤的实验依据让技术少了黑魔法感，且状态与动作嵌入解耦可缓存，极大降低了消费级硬件的推理与训练成本，很适合本地玩家榨取性能。 > 状态与动作解耦后能独立缓存嵌入，随候选动作和上下文增长效率收益显著，值得消费级硬件玩家研究（@peterdsherman）

质疑将 agentic 动作决策视作分类任务

• 少数人深度指出该技术虽借用了冻结 LLM 训练上层小模型输出概率，但在游戏按键等场景下并非传统分类（有标准答案），而是反复博弈的策略，只能看整体表现；但也赞赏其脱离 AR 解码、解耦输入输出 token 空间的巧思。 > 邮件垃圾判定是分类，而游戏里按哪个键是策略，后者通常没有正确解，只能看模型整体玩得好不好（@amluto）

有价值的补充

• 基准测试仅覆盖大 K 语义动作匹配场景（如 Super Mario、恐龙跑），其“媲美 Jev”的结论未包含日期算术、否定链等需要类型化决策的负载。
• 该技术类似将 CLIP 的思想应用于动作空间，利用独立编码向量的余弦相似度作为正确的归纳偏置。
• 演示中模型总撞障碍物而 Jev 跳跃正确，暗示动作匹配精度本身也可能是评估变量，而非仅延迟或网络问题。