如今看新闻标题,很容易以为西方实验室正被中国实验室集体碾压。Anthropic 几乎每周发文章,称中国在蒸馏其模型、威胁人类,这能为日后从法律和监管上限制这些模型铺路。但无脑蒸馏的时代已结束,新玩法是采用中国实验室的成果,而非 Anthropic 惯用的那个刺眼说法——中国人基本把配方白送。最新被不加说明照搬的,是 DeepSeek 公开的 KV 缓存优化突破。
正文
如果你最近看新闻标题,大概会以为西方实验室正被中国实验室成群结队地按在出生点刷。
蒸馏风波
Anthropic 几乎每周都会发一篇文章,讲中国人在蒸馏他们的模型、正在成为人类自身的威胁之类。这样说对他们有利,因为这为日后从法律和监管上约束这些模型铺好了地。
但无脑蒸馏的时代显然已经结束。
不只是结束。现在的新玩法是采用中国实验室的成果。注意我用的是"采用",而不是 Anthropic 更爱用的那个充满恶意的词——"窃取"。
因为和西方公司不同,中国人基本上是在把配方白送出去。
另一场游戏
最近一个被悄无声息照抄过去的突破,是 DeepSeek 慷慨分享给全世界的 KV 缓存优化。
这个优化相当惊人:在编程这类使用长会话上下文的场景里,它把 KV 缓存占用相比 DeepSeek-V1 降低了约 437 倍。
他们最先发布 MLA 架构,把缓存压缩了约 15 倍,随后又推出"压缩稀疏注意力"和"重度压缩注意力"。最新的 DeepSeek-V4.1-Flash 用 CSA2、跨层缓存复用、因果编码器-解码器架构和 FP4 缓存进一步推进,把全局 KV 缓存降到每 token 890 字节。
这些为什么重要?因为服务长上下文模型时,最大的成本之一就是把这些缓存在 GPU 显存里所需的空间。
下图展示了这一切有多疯狂:
跟着缓存的钱走
再对比大约两个月前同一档位的价格。以下价格均为每 100 万 token:
一次非常安静的致谢
这一切必然意味着西方 AI 公司现在在推理利润率上非常健康。
先进 GPU 获取受限,迫使中国实验室把性能优化当成头号目标,结果也证明了这一点。
我不知道他们为什么愿意白送这样的突破,但反正他们送了,而这一次 Anthropic 和 OpenAI 发布的模型基本都属顶级,而且用上了这些优化。
他们似乎对抄袭有点不好意思,所以 Claude Opus 5.5 和 GPT-6.1 Sol 都是几乎没什么预告就悄悄发布。
用户对使用体验的评价非常好,质量与他们的旗舰模型(Claude Fable 5.1 和 GPT-6 Astra)相比似乎也不差多少。
缓存读取成本就是采用这些优化的证据,价格大幅下降:Opus 5.5 的缓存读取价格比 Opus 5 降低了 60%,GPT-6.1 Sol 相比 GPT-5.6 Sol 在 7 月底的价格降低了 80%。
所以中国实验室给西方这些亏损的实验室扔了一条救生索,而我就是完全不知道为了什么。
评论
社区普遍质疑原文将中国实验室开放技术被西方采用视作“抛救生索”或“窃取”的叙事,认为这是开源生态正常交流与商品化竞争策略;较多人同时指出文章论据薄弱、迎合反大厂情绪。
认为中国开源是商品化互补品并刺破西方营收泡沫
- 非 incumbent 开放权重是将对手收费项商品化以获取分发的正常策略,也符合中国将大模型作为制造互补品战略;这实际破坏西方实验室依赖高推理成本的增长叙事,迫使对方烧钱追赶(较多人) > 营收增长故事在上市前就是一切,若从千亿跌到五百亿,对 OpenAI 和 Anthropic 是极坏的光学效果,哪怕已盈利(@reticulates)
认为采用公开成果不是窃取而是行业常态并指斥双标
- 前沿实验室仅称蒸馏违服务条款而非偷窃,整个行业都建立在公开发表的基础发现之上;西方实验室自身也借鉴中国发布,却将他人使用公开研究称窃取,实为铺垫监管保护利益(较多人) > 前沿实验室从未称蒸馏为偷,只说违反服务条款,而行业本就构建在谷歌公开发表的发现上,没理由禁止他人使用(@emtel)
质疑原文论据薄弱且迎合反大厂情绪
- 多指出文章无具体证据指认抄袭,西方研究者本就有优化能力,所谓“中国先发现”无依据;文章因社区仇视大厂情绪被推高,实质空洞(较多人) > 我怀疑大厂研究者从没想过钻研这些优化而只砸钱建数据中心,这种分析极单薄且明显因社区恨大厂而上首页(@senordevnyc)
欢迎中国模型推动本地化与 AI 民主化
- 性能优化助本地运行强模型减少订阅依赖,感谢其绕过美国公司围墙花园,认为开放竞争加速科学治愈等有益应用,甚至因大厂抱怨而更愿用便宜中国模型(较多人) > 我感激中国实验室提供绕过美国 AI 公司正试图建造的围墙花园的变通方案,AI 必须民主化而非困于少数私企(@slowin)
有价值的补充
- 消费者硬件已能本地运行数月前的前沿级模型:有用户在单张5090上以每秒170令牌运行相当于 Opus 4.6 层级的 Qwen 27B,预示蒸馏与剪枝一年后进展可期(@reedf1)
- 许多推理优化来自模型-硬件协同设计,并非简单后训适配器,想入行需理解训练理论(@sigbottle)
- 中国低价开源部分源于经济内卷与过度竞争,类似电动车领域,且劳动收入份额偏低(@georgeburdell)