Hacker News 中文摘要

RSS订阅

AI 竞赛突陷尴尬 -- The AI Race Just Got Awkward

如今看新闻标题,很容易以为西方实验室正被中国实验室集体碾压。Anthropic 几乎每周发文章,称中国在蒸馏其模型、威胁人类,这能为日后从法律和监管上限制这些模型铺路。但无脑蒸馏的时代已结束,新玩法是采用中国实验室的成果,而非 Anthropic 惯用的那个刺眼说法——中国人基本把配方白送。最新被不加说明照搬的,是 DeepSeek 公开的 KV 缓存优化突破。

正文

如果你最近看新闻标题,大概会以为西方实验室正被中国实验室成群结队地按在出生点刷。

蒸馏风波

Anthropic 几乎每周都会发一篇文章,讲中国人在蒸馏他们的模型、正在成为人类自身的威胁之类。这样说对他们有利,因为这为日后从法律和监管上约束这些模型铺好了地。

但无脑蒸馏的时代显然已经结束。

不只是结束。现在的新玩法是采用中国实验室的成果。注意我用的是"采用",而不是 Anthropic 更爱用的那个充满恶意的词——"窃取"。

因为和西方公司不同,中国人基本上是在把配方白送出去。

另一场游戏

最近一个被悄无声息照抄过去的突破,是 DeepSeek 慷慨分享给全世界的 KV 缓存优化。

这个优化相当惊人:在编程这类使用长会话上下文的场景里,它把 KV 缓存占用相比 DeepSeek-V1 降低了约 437 倍。

他们最先发布 MLA 架构,把缓存压缩了约 15 倍,随后又推出"压缩稀疏注意力"和"重度压缩注意力"。最新的 DeepSeek-V4.1-Flash 用 CSA2、跨层缓存复用、因果编码器-解码器架构和 FP4 缓存进一步推进,把全局 KV 缓存降到每 token 890 字节。

这些为什么重要?因为服务长上下文模型时,最大的成本之一就是把这些缓存在 GPU 显存里所需的空间。

下图展示了这一切有多疯狂:

跟着缓存的钱走

再对比大约两个月前同一档位的价格。以下价格均为每 100 万 token:

一次非常安静的致谢

这一切必然意味着西方 AI 公司现在在推理利润率上非常健康。

先进 GPU 获取受限,迫使中国实验室把性能优化当成头号目标,结果也证明了这一点。

我不知道他们为什么愿意白送这样的突破,但反正他们送了,而这一次 Anthropic 和 OpenAI 发布的模型基本都属顶级,而且用上了这些优化。

他们似乎对抄袭有点不好意思,所以 Claude Opus 5.5 和 GPT-6.1 Sol 都是几乎没什么预告就悄悄发布。

用户对使用体验的评价非常好,质量与他们的旗舰模型(Claude Fable 5.1 和 GPT-6 Astra)相比似乎也不差多少。

缓存读取成本就是采用这些优化的证据,价格大幅下降:Opus 5.5 的缓存读取价格比 Opus 5 降低了 60%,GPT-6.1 Sol 相比 GPT-5.6 Sol 在 7 月底的价格降低了 80%。

所以中国实验室给西方这些亏损的实验室扔了一条救生索,而我就是完全不知道为了什么。

评论

社区普遍质疑原文将中国实验室开放技术被西方采用视作“抛救生索”或“窃取”的叙事,认为这是开源生态正常交流与商品化竞争策略;较多人同时指出文章论据薄弱、迎合反大厂情绪。

认为中国开源是商品化互补品并刺破西方营收泡沫

  • 非 incumbent 开放权重是将对手收费项商品化以获取分发的正常策略,也符合中国将大模型作为制造互补品战略;这实际破坏西方实验室依赖高推理成本的增长叙事,迫使对方烧钱追赶(较多人) > 营收增长故事在上市前就是一切,若从千亿跌到五百亿,对 OpenAI 和 Anthropic 是极坏的光学效果,哪怕已盈利(@reticulates)

认为采用公开成果不是窃取而是行业常态并指斥双标

  • 前沿实验室仅称蒸馏违服务条款而非偷窃,整个行业都建立在公开发表的基础发现之上;西方实验室自身也借鉴中国发布,却将他人使用公开研究称窃取,实为铺垫监管保护利益(较多人) > 前沿实验室从未称蒸馏为偷,只说违反服务条款,而行业本就构建在谷歌公开发表的发现上,没理由禁止他人使用(@emtel)

质疑原文论据薄弱且迎合反大厂情绪

  • 多指出文章无具体证据指认抄袭,西方研究者本就有优化能力,所谓“中国先发现”无依据;文章因社区仇视大厂情绪被推高,实质空洞(较多人) > 我怀疑大厂研究者从没想过钻研这些优化而只砸钱建数据中心,这种分析极单薄且明显因社区恨大厂而上首页(@senordevnyc)

欢迎中国模型推动本地化与 AI 民主化

  • 性能优化助本地运行强模型减少订阅依赖,感谢其绕过美国公司围墙花园,认为开放竞争加速科学治愈等有益应用,甚至因大厂抱怨而更愿用便宜中国模型(较多人) > 我感激中国实验室提供绕过美国 AI 公司正试图建造的围墙花园的变通方案,AI 必须民主化而非困于少数私企(@slowin)

有价值的补充

  • 消费者硬件已能本地运行数月前的前沿级模型:有用户在单张5090上以每秒170令牌运行相当于 Opus 4.6 层级的 Qwen 27B,预示蒸馏与剪枝一年后进展可期(@reedf1)
  • 许多推理优化来自模型-硬件协同设计,并非简单后训适配器,想入行需理解训练理论(@sigbottle)
  • 中国低价开源部分源于经济内卷与过度竞争,类似电动车领域,且劳动收入份额偏低(@georgeburdell)