多大型语言模型（Large Language Model，LLM）系统利用互补优势获单模型不及效能。现有设计令模型经文本通信，内部表示转令牌序列，失语义且生延迟。受限，我们探能否超文本通信。预言机实验证丰富KV-Cache语义可不增缓存提质量，支其作媒介。遂提缓存到缓存（Cache-to-Cache，C2C）范式，以神经网络融源与目标模型KV-cache传语义，门控选层。

多LLM系统利用多种大语言模型的互补优势，获得单个模型无法达到的性能和效率提升。在现有设计中，LLM通过文本通信，迫使内部表示转化为输出令牌序列。这一过程既丢失了丰富的语义信息，又带来了逐令牌生成的延迟。受这些限制启发，我们提问：LLM能否超越文本进行通信？Oracle实验表明，丰富KV-Cache的语义可以在不增加缓存大小的情况下提升回答质量，证明KV-Cache可作为模型间通信的有效媒介。因此，我们提出Cache-to-Cache（C2C），一种LLM间直接语义通信的新范式。C2C使用神经网络将源模型的KV缓存与目标模型的进行投影和融合，实现直接语义传输。一个可学习的门控机制选取从缓存通信中受益的目标层。相比文本通信，C2C利用了两个模型深层、专门化的语义，同时避免了显式的中间文本生成。实验显示，C2C比单个模型平均准确率高出6.4-14.2%。它进一步比文本通信范式高出约3.1-5.4%，同时带来平均2.5倍的延迟加速。我们的代码发布于 此链接。

提交历史

v1 于2025年10月3日 17:52:32 UTC 提交（484 KB），v2 于2026年3月2日 19:24:02 UTC 提交（546 KB）。

这场讨论从「模型之间用神经语互相通信」出发，一边顺着技术逻辑推演到跨模型共享 KV 缓存，一边提醒可监控性和调试难度会同步恶化；分歧主要落在嵌入/缓存表示到底是有损的还是可复用的这一层。

担心神经语通信会让可监控性彻底失守

• 模型不只在思维链里越来越多地用神经语，不同智能体之间也会直接用它交流，这让外部监控变得越来越难（较多人） > 模型内部会越来越多地用神经语思考，智能体之间也能用它对话，可监控性的前景不妙。（@cubefox）

自然语言本就是有损表示，用语义表示通信是顺理成章的延伸

• 几个月前就有人问过，为什么不用语义表示而要用文本，毕竟自然语言对语义概念来说损失很大；只是当时没想到会用在模型与模型之间（较多人）
• 多模态模型也有同样的疑问：图像先被压成嵌入，再训练模型去解读这个嵌入，损失和文本一样存在；为什么不让模型直接解读图像，或者给嵌入模型传一个「提示」（较多人） > 既然文本是有损的，嵌入大概也不例外，那为什么不让模型直接理解图像本身。（@foota）

KV 对齐的模型家族才是真正有意思的可能

• 如果多个模型能靠彼此的缓存表示互相增强，那不同模型的 KV 缓存就必须有一定兼容性；顺着这个思路可以做一个全部 KV 对齐的模型家族，让模型直接复用彼此的缓存（少数人）
• 这样昂贵的推理模型负责规划和分解，把简单子目标委派给小模型，小模型直接读到前者的意图，省掉预填充重算和交接延迟；反过来小模型也能产出压缩过的缓存，让大模型快速略读大文件（少数人） > 昂贵的推理模型用它全部的能力去规划，把简单子目标交给小模型，而小模型能直接以大模型丰富的 KV 缓存表示访问它的意图。（@ACCount39）

KV 缓存不等于上下文，只会让系统更难调试

• 缓存的 KV 一旦被逐出，就得重新跑一遍翻译；这或许仍有帮助，但属于那种复杂度大幅上升、调试难度也大幅上升的东西（较多人） > KV 不是上下文。如果 KV 缓存被逐出，你就得重新跑一遍翻译。（@djoldman）

有价值的补充

• 有人给这条思路贴上「古老论文」的标签：2025 年的工作在 AI 纪年里已经算十年前，但相关概念至今没有出现在任何生产模型中。
• 跨模型直接复用缓存有一个未被验证的前提——不同模型的 KV 表示必须足够兼容；讨论里没有人给出证据，它只是从「模型能用彼此缓存做增强」反推出来的假设。
• 多模态模型把图像先转成嵌入再解读，这一点被拿来和文本的有损性做类比，构成对「语义/嵌入表示更高效」这一直觉的反问。