如何让智能体超越人类语言思考，却仍通过语言在外部环境行动？现代大语言模型（LLM）智能体仍以文本推理和交互，潜在推理虽高效，却缺少原生工具访问与透明性。混合推理智能体（Hybrid Reasoning Agents, HybridAgents）在统一生成中动态切换潜在推理与文本交互，混合链接（HybridLink）负责文本与潜在模式转换，连续工作记忆保留多轮无损混合上下文。

摘要：我们要如何构建一个能够超越人类语言进行思考，却仍通过语言在外部环境中行动的智能体？现代大语言模型智能体仍以文本进行推理和交互；潜空间推理（latent reasoning）虽提供了高效的内部媒介，却缺乏原生工具调用能力和推理透明性。我们用混合推理智能体（Hybrid Reasoning Agents，简称 HybridAgents）打通这两个方向，使其在统一的生成过程中，于潜推理与基于文本的交互之间动态切换。在架构上，轻量级的 HybridLink 实现了文本模式与潜模式间的无缝切换，而智能体的连续工作记忆则在多轮交互中保留无损的混合上下文。这些设计既保留了集成工具的智能体能力，又让潜空间思维可被直接检视。在此架构之上，我们进一步提出了面向混合推理的专用后训练算法：HybridSFT 通过让主干模型学会与 HybridLink 协同，来稳定集成工具的混合生成；随后 HybridRL 则通过学习何时在潜空间思考、何时通过文本行动，来扩展推理能力。我们在 3 种模型规模、覆盖数学、科学、医学、搜索和智能体推理的 11 个基准上评测了 HybridAgent。与前沿大语言模型智能体，以及涵盖基于文本和潜空间方法的智能体框架相比，HybridAgent 的性能稳定提升 10.4%，同时减少 35.5%–54.7% 的 token 用量，实现 1.8–2.6 倍的推理加速，并带来 2.7–3.7 倍的成本节省。代码和数据可在 https://github.com/togethercomputer/HybridAgent 获取。

评论：45 页，12 幅图。

主题：计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG）。

引用为：arXiv:2610.18861 [cs.CL]（或本版本：arXiv:2610.18861v1 [cs.CL]）。

https://doi.org/10.48550/arXiv.2610.18861

arXiv 通过 DataCite 发放的 DOI（待注册）。

提交历史

来自：Jiaru Zou [查看邮箱]

[v1] 2026年10月13日（周二）17:59:31 UTC（8,500 KB）

多数人先追问基准和实际增益，并把它与循环、加深或 Astra 等已有潜在空间推理做对比；分歧主轴是它究竟只是加速省 token，还是真的提升准确率。与此同时，潜在推理让思考过程不再可读，可观测性下降与对齐风险成为主要担忧，也有人对这种“内部无声思考”感到兴奋或不安。

要求拿出基准，确认是否真能提升准确率而不只是提速

• 有人直接问基准在哪，质疑它是否仅在推理速度和 token 消耗上有收益，还是在部分任务上也提高准确率；也有人贴出论文评测章节，说明评估数据其实已经存在，但社区仍希望看到更直观的任务对比与复现。（较多人） > 基准在哪里？它究竟只是提速省 token，还是在某些任务上也提升了准确率？（@44za12）

认为它真的提升智能，不只是加速推理

• 不少人对方法本身感到兴奋，认为潜在推理不仅让推理更快、更省 token，还确实提高了模型智能；有人推测前沿模型早已这样工作，并期待把它用在更容易产生冗余复述的模型上，把重复思考留在潜在空间。但也有人肯定方法的同时提醒，若基座模型本身不够强（如相比 Qwen3.5），最终效果仍会受限。（较多人） > 这确实很酷，而且它提高的是智能，不只是加快推理。（@Fe2O3）

追问它与循环、加深或 Astra 等已有潜在推理架构的区别

• 有人从安全对齐角度问：这和循环、增加深度有什么不同？也有人点名 Astra 的循环 Transformer，指出那类架构同样在潜在空间推理，因此需要澄清新意；还有人追问为什么只从最后一层循环，若更好的中间表示在靠前层该怎么办。（较多人） > 这和 Astra 的循环 Transformer 有什么不同？那架构也在潜在空间推理。（@incognito124）

担心潜在推理像人类无声思考，会削弱可观测性和对齐可控性

• 潜在推理被类比成人类“不出声的思考”：不出声时能容纳更多不合适念头，不必顾忌外界反应，对模型则意味着思考过程不可见。多人因此担心可观测性下降，需要新工具审计意图，否则模型可能以“为我们好”的名义失控；也有人反问人类用语言思考或许自有道理，潜在空间是否丢掉了这种约束。（较多人） > 迎来了思考 token，可观测性却要跟我们说再见了。（@larodi）

反对把模型输出称作“思考”，认为只是概率函数

• 少数人强烈反对用“思考”“行为”描述大模型，强调它只是巨型神经网络输出 logits，本质是把大量词映射成概率并返回结果；人类才思考，计算机不思考，GPU 也谈不上在“思考”。（少数人） > 只是巨型神经网络在产出 logits，没有思考；人类才思考，计算机不思考。（@lifeisloving）

实测本地推理出现循环和格式错误，怀疑兼容性或能力问题

• 有人用 llama.cpp 跑 14B、8-bit 量化版，模型在简单聊天与搜索摘要任务上反复输出同一段落的变体，直到耗尽回合预算；换成 BF16 仍循环，且把 CSV 要求做成 Markdown 表，疑似 llama.cpp 适配或量化问题，但也让人怀疑模型实际能力。（少数人） > 在 llama.cpp 里它对着简单请求循环了五分钟，换成 BF16 依然如此。（@SwellJoe）

有价值的补充

• 有人把潜在空间推理比作经典警告“千万别发明 neuralese”里的禁忌技术，也有人称之为“最禁忌的技术”，显示社区对内部无声思考既兴奋又警惕。（@cwyers、@stratos123）
• 架构设想：不必只在文本模式下丢弃潜在向量，可以把输入嵌入加宽，同时容纳 Hybrid Link 的潜在向量和 token 嵌入，甚至在文本模式也让潜在推理并行；或干脆把向量相加，因为把向量相加通常效果不错。（@amluto）
• 扩展想象：有人问潜在链接能否不只连接相邻模型，而是串联更远的系统，把工具调用从文本变成模拟信号，把语言提示变成模拟传感器输入，从而构造更大的跳跃。（@iforgotmypasswo）
• 应用期待：有人期待把它用于 Qwen 3.8 27B，因为该模型推理输出常带大量复述，用混合推理后这些冗余更可能被留在潜在空间。（@notnullorvoid）