Hacker News 中文摘要

RSS订阅

Mercury 2.5 LLM 每秒生成 770 tokens -- Mercury 2.5 LLM hits 770 tokens per second

人工智能分析智能指数(Artificial Analysis Intelligence Index)v4.3.2 版本已更新,该版本整合了10项评估,分别为 AA-Briefcase v1.1、GDPval-AA v2.1、AutomationBench-AA、Terminal-Bench 4.0、SciCode、Humanity's Last Exam、GDP.pdf、CritPt、AA-Omniscience 与 AA-LCR v1.1。此指数同时按开放权重与专有模型分类呈现,所列评估与前述一致,并指向方法论页面,其中详述了每项评测的具体内容与运行方式。

正文

智能更新

Artificial Analysis 智能指数

Artificial Analysis 智能指数 v4.3.2 整合了 10 项评估:AA-Briefcase v1.1、GDPval-AA v2.1、AutomationBench-AA、Terminal-Bench 4.0、SciCode、Humanity's Last Exam、GDP.pdf、CritPt、AA-Omniscience、AA-LCR v1.1。详见智能指数方法论可了解各项评估及运行方式。

按开放权重/专有划分的 Artificial Analysis 智能指数

上述 10 项评估相同。该分类标明模型权重是否开放:商业使用受限标为“Commercial Use Restricted”,禁止商业使用标为“Non-commercial”。

能力指数

衡量模型在特定能力和行业上的表现。

智能评估

智能评估由 Artificial Analysis 独立测量,数值越高越好。涵盖:代理知识工作 (Elo-500)/2000、代理真实工作任务 (Elo-500)/2000、代理 SaaS 工作流、代理编码与终端使用、专业文档推理(全通过)、物理推理、医疗长上下文推理。虽然模型智能通常跨场景通用,但特定评估对某些用例更相关。

AA-Briefcase v1.1 更新

AA-Briefcase Elo

AA-Briefcase v1.1 是 Artificial Analysis 开发的代理知识工作基准。AA-Briefcase Elo 是综合指标,聚合分析质量 Elo、呈现 Elo 和评分标准通过率(通过合成两两对战将评分表现转为 Elo)。Elo 及 95% 置信区间下限截断在 0。数值越高越好。

AA-Omniscience

AA-Omniscience 指数

AA-Omniscience 指数(越高越好)衡量知识可靠性和幻觉。奖励正确答案,惩罚幻觉,拒答不扣分。分数范围 -100 到 100,0 表示正确与错误各半,负分表示错误多于正确。

智能指数对比

智能指数 vs. 每智能指数任务成本

Artificial Analysis 智能指数与每任务加权平均成本(美元)。最具吸引力象限、帕累托线。每智能指数任务的加权平均成本由各评估的输入、缓存命中、缓存写入、推理和回答令牌价格除以任务数,再按指数权重加权得出。

令牌使用

每个智能指数任务的输出令牌数

运行智能指数中单个任务的加权平均输出令牌数。计算方式为各评估输出令牌乘以其在指数中相对权重,再除以任务数(不含重复)。

成本

每个智能指数任务的成本

每智能指数任务的加权平均成本(美元),按令牌类型拆分,越低越好。计算方式同上(各评估成本按指数权重加权)。

运行 Artificial Analysis 智能指数的成本

运行指数中所有评估的成本(美元),根据模型输入、缓存命中、缓存写入、推理和回答令牌价格及跨评估使用的令牌数(不含重复)计算。

定价:缓存命中、输入与输出

价格(美元/百万令牌)。缓存提示(已处理过)的每令牌价格通常比常规输入价折扣明显。此处显示为缓存命中价;缓存写入和存储另计且因供应商而异。

上下文窗口

上下文窗口令牌限制,越高越好。更大窗口与 RAG(检索增强生成)LLM 工作流相关,涉及大量数据推理与检索。最大输入输出令牌总数,输出令牌通常限制更低(因模型而异)。

速度

以输出速度(令牌/秒)衡量。

输出速度

每秒输出令牌数,越高越好。模型生成令牌时接收的速率(支持流式模型在收到首个块后)。数据来自模型官方 API 或若无官方 API 则取供应商中位数。

每个智能指数任务的耗时

每任务加权平均解码时间(分钟),不含首令牌时间和开销,越低越好。计算为输出令牌数除以输出速度,按各基准权重加权。

延迟

以首令牌时间(秒)衡量。

延迟:首个回答令牌时间

收到首个回答令牌的秒数,含推理模型“思考”时间。API 请求发送后到收到首个回答令牌的时间;推理模型包含作答前思考时间;不支持流式的模型指收到完整回复的时间。

端到端响应时间

输出 500 令牌的秒数,基于首令牌时间、推理模型思考时间和输出速度计算。

端到端响应时间

输出 500 令牌(含推理思考)的秒数,越低越好。接收 500 令牌回复的耗时组成: * 输入时间:收到首个响应令牌的时间 * 思考时间(仅推理模型):推理模型作答前输出令牌思考的时间,令牌量基于 60 个多样提示的平均推理令牌数 * 回答时间:基于输出速度生成 500 输出令牌的时间

数据来自模型官方 API 或供应商中位数。

评论

这轮讨论对 Mercury 2.5 基本是泼冷水:多数人承认它快得离谱,但认为智能水平和定价都没到能用的程度,速度本身构不成购买理由;少数人为极速辩护,也有人从硬件和系统层面提出别的路径。

认为速度再快也弥补不了智能上的差距

  • 速度没有任何意义,因为和前沿实验室相比它几乎垫底;有用户实测后认为最多相当于 14B 级别,连 GPT-OSS-20B 都不如,本想因为它「又便宜又快」而采用,最后连简单任务都放弃了(较多人)
  • 官方评测本身承认「智能低于平均水平」,于是问题变成:一个又笨又快的模型,到底拿来干什么?社区给出的答案是暂无答案(高赞) > 它给人的感觉是:跑分和 gpt-oss-120b 一样,速度还可能更慢,然后还说自己很棒。(@sharktheone)

认为定价没有竞争力,开源权重模型更划算

  • $0.25 与 $0.75 的档位已经贵过那些能塞进 170GB 内存的开源权重模型推理商(如 deepseek v4 flash、qwen 3.8-flash-next 之类),同时智能上还可能不如能廉价部署的 laguna 2.1,所以找不到存在意义(较多人)
  • 有用户直接嘲讽官方表述里的循环论证——「与同价位模型相比定价合理」,等于什么都没说(少数人) > 与同价位模型相比定价合理,哦?这算不算可以直接叫它垃圾输出?(@entrope)

认为扩散 LLM 这条路本身走不通

  • 连 Google 这种前沿实验室都只是「玩过」扩散方案、连最看重速度和成本的小模型都没继续投入,说明这个方向的投入回报存疑;目前也看不出它在哪个用例上处于帕累托前沿(少数人)

认为极速本身仍有真实价值

  • 有用户实测时甚至怀疑响应这么快是出了故障,可见速度观感确实惊人;另一派举例 Cerebras 上的 gpt-oss-120b 跑到约 1400 tokens/s 而排名「差不多聪明」,用起来体验极好(少数人)
  • 极速最有价值的场景可能不是通用问答,而是把瓶颈从模型前移到工具调用之后:模型最好和代码仓库、各生态完整文档乃至 Common Crawl 副本同机房部署,以减少网络抓取(少数人)

有价值的补充

  • Cerebras 上跑 gpt-oss-120b 可达约 1400 tokens/s,且排名与 Mercury 2.5 相当,被当作「要速度为什么不选它」的具体对照。
  • Chat Jimmy 一类的 Taalas 式做法是把模型直接烧进硅片,号称 17K tokens/s;有用户惋惜这类芯片没有后续,并认为小模型如今「够用了」,正是这种爆发式吞吐真正有用的前提。
  • 玩笑留一条:「我的 1k 参数 RNN 更快」——代表社区对「唯速度论」的整体不耐烦。