Hacker News 中文摘要

RSS订阅

Microsoft-Decision-1, our model for fast decision-making

决策模型正成为人工智能新类别,不同于生成文本或推理的 LLM,它输出可立即执行的结构化结果,以低成本高性能做决策与分类。今天,微软(Microsoft)推出用于快速决策评分的微软决策 1(Microsoft-Decision-1),在 Microsoft Foundry 和通过 OpenRouter 提供,面向路由、分类、验证和工作流控制;它在结构化决策任务上优于 LLM 和其他决策模型,并在含近 150,000 个问题且训练未见过的 36 项基准中准确率最高、速度最快。

正文

决策模型正在迅速成为 AI 中一个重要的新类别。与为生成文本或推理复杂问题而设计的 LLM 不同,决策模型专门用于输出软件可以立即执行的结构化结果。一旦理解了这种能力——以低成本、高性能做出决策并对事物分类——各种有用的任务就成为可能。

今天,我们推出 Microsoft-Decision-1,这是我们用于快速决策打分的新型模型,已在 Microsoft Foundry 上线,并通过 OpenRouter 提供。该模型面向路由、分类、优先级排序、验证和工作流控制而设计,让决策智能更容易以安全、可信的方式融入现有应用、智能体和工作流。在结构化决策任务上,Microsoft-Decision-1 在延迟和质量上都达到顶级表现,优于 LLM 和其他决策模型。

在包含近 15 万个问题的 36 项基准对比中(这些基准对训练保密),Microsoft-Decision-1 取得了最高准确率。在我们的基准测试中,它也是测得最快的:比亚军 Quyet-1.0-Large 快 4.5 倍,比 GPT-6 Sol 快 35 倍。

Microsoft-Decision-1 的工作原理

为了构建 Microsoft-Decision-1,我们对 Qwen3.5-9B 进行了后训练,用于快速、单遍决策打分,并将很快将其重新基于其他模型,包括 Microsoft AI(MAI)和 OpenAI 的模型。在给定一组固定答案选项时,Microsoft-Decision-1 会为每个选项提供经过校准的概率得分。该模型支持是/否、多项选择和评分选项,以及对 AI 响应和智能体动作进行基于评分标准的分级,所有这些都通过一个简单的结构化 API 调用完成。

要构建可靠的决策模型,我们必须解决几个挑战:

1. 速度

每个决策都会增加延迟,尤其是当一步依赖另一步时。例如,在 20 个顺序决策中,每个仅增加 100 毫秒,就会让整个工作流增加 2 秒。Microsoft-Decision-1 的 P50 延迟约为 GPT-6 Sol 的 35 倍快。

2. 可泛化的质量

很容易让模型在单一基准或单一类型决策任务上过拟合。我们需要知道这种质量是否能迁移到模型未训练过的各类任务。因此,我们在数十个对训练保密的基准上评估了 Microsoft-Decision-1,涵盖路由、排序、长上下文、多语言和分布外任务、推理以及安全性。我们还选取了热门开放排行榜 JevBench 上几个领先的公开模型,在另外 36 个公开和私有基准上进行了测试。Microsoft-Decision-1 在这些更广泛的基准集上表现最好,展现出强泛化能力。

3. 鲁棒性

等价的输入应产生等价的决策。在生产环境中,状态和指令会被改写,选项描述会变化,选择会被重排,键名会改变,还会出现无害的格式噪声。这些变化都不应实质改变决策。我们以八种方式扰动同一请求,并测量决策翻转的频率。Microsoft-Decision-1 平均在 1.3% 的扰动下改变决策;当选项描述被改写,或选项被反转、打乱时,翻转次数为零。

4. 概率与置信度校准

概率本身是 API 的一部分,而不只是排序分数。应用会用置信度来决定何时执行、推迟或请求人工复核,因此在代表性案例中,90% 的预测应当大约有九次是对的。

5. 安全性

决策模型应能识别有害请求,同时不必过度拦截无害请求。我们在 11 个基准、5250 个请求上测试了 Microsoft-Decision-1,覆盖有害内容、越狱尝试和提示注入。结果发现,模型成功拒绝了有害行为,同时保持了很高的实用性。

演示示例

分类是决策模型的一个关键用例。来看看 Microsoft-Decision-1 与 GPT-6 Sol 相比,能以多高准确度和速度对各类查询进行分类:

决策模型在计算机操作场景中也很高效。该演示展示了 Microsoft-Decision-1 与 GPT-6 Sol 相比,完成购买背包任务的速度有多快:

我们内部如何测试 Microsoft-Decision-1

以下是我们内部测试 Microsoft-Decision-1 的一些方式,后续还会有更多。

数据标注

XBOX Research 使用 Microsoft-Decision-1 处理了来自调查、STEAM 和 Twitter/X 的超过 1 万条开放式反馈与评论,并按研究人员设定的固定主题集进行分类,以了解人们对不同游戏、发布、直播等的评价。他们发现,Microsoft-Decision-1 在质量上可与 GPT-6 Sol 竞争,同时运行速度快 14 倍以上,便宜约 200 倍。

质量控制

Copilot 团队负责衡量聊天和智能体响应的质量。他们的测试发现,Microsoft-Decision-1 可与 GPT5.6 Luna 竞争,并且快 100 倍。

事件响应

我们的值班工程师使用 AI 检索相关知识,以响应来自日志、工单系统、通话、消息和其他数据源的线上事件。在知识检索方面,Microsoft-Decision-1 的表现和速度都优于 LLM。

科学发现

Microsoft Discovery 实现了一种自适应重新规划功能:智能体评估先前的实验,根据评分标准修正方法,并重复这一过程直到完成目标。Microsoft-Decision-1 的评分一致性是 LLM 评分的 46 倍,速度是其三倍,并使自适应重新规划整体速度提升近四倍。

Video 5 更快、更可靠的规划可能对长期科学实验的结果产生重大影响。

以上只是少量示例。Microsoft-Decision-1 还有许多潜在用例。可以尝试以下方向:

  • 智能体控制: 评估智能体提出的下一步动作,决定继续、停止、重试,还是交给模型、工具或人工。
  • 模型路由: 评估传入请求,根据质量、成本和延迟要求选择最适合该任务的模型。
  • 基于技能的决策: 应用智能体技能中的规则来选择合适的下一步动作,而无需反复处理一长串指令。
  • 数据标注: 为社交媒体帖子、客户反馈和其他数据分配一致标签,用于分析或训练。
  • AI 评审: 根据定义的质量标准评估 AI 生成的响应,决定接受、修改还是拒绝。
  • 意图分析: 识别用户想要完成什么,并将其请求匹配到受支持的意图。
  • 事件响应路由: 按类型和紧急程度对事件分类,然后路由给合适的团队或工作流。
  • 数据验证: 检查输入是否满足既定要求,决定接受、拒绝还是标记复核。
  • 推荐: 从一组候选项中选出最相关的项目、优惠或下一步动作。
  • 搜索相关性: 评估搜索结果与查询的匹配程度,并分配相关性标签或优先级。
  • 内容分类与过滤: 按主题或策略对内容分类,决定展示、过滤还是送审。
  • 代码扫描: 根据既定标准评估代码,标记潜在缺陷或策略违规以供复核。
  • 安全与安保筛查: 按风险对请求、输出或拟议动作分类,决定允许、阻止还是升级处理。
  • 计算机与 UI 操作: 根据当前屏幕和任务,从一组选项中选择下一个界面动作。
  • 机器人: 根据观测、任务目标和操作约束,在预定义的机器人动作中进行选择。
  • 科学发现: 根据既定标准筛选候选假设、化合物或实验,并排定优先级以供进一步评估。

开始使用

开发者今天就可以在 Microsoft Foundry 中开始使用 Microsoft-Decision-1:https://ai.azure.com/catalog/models/Microsoft-Decision-1。也可以通过 OpenRouter 开始使用:https://openrouter.ai/microsoft/microsoft-decision-1。

定价

输入 token 价格为每百万 token 0.042 美元。输出 token 免费。

展望未来

既然智能体 AI 已成为现实,我们发现成本在人们决定如何使用 AI 时起着重要作用。为合适的工作选择合适的模型也变得越来越重要。随着智能体在现实世界中采取行动并产生影响,决策模型有潜力帮助人们在复杂环境中引导和控制这些智能体。

我们期待看到开发者用 Microsoft-Decision-1 构建出什么,也期待听到他们的反馈。我们将持续发布模型更新,包括通过纳入评估和数据,进一步优化质量、置信度和成本。

附录:参与基准测试的模型

Quyet-1.0-Large — https://huggingface.co/chinhnc/Quyet-1.0-Large Surogate Rune 26B-A4B — https://huggingface.co/surogate/rune-26b-a4b-GGUF GPT-6 Luna Decisions — https://developers.openai.com/api/docs/guides/decisions deck-31B — https://github.com/krishna-gogineni-765/deck31b H2O-Lightning-4B — https://huggingface.co/h2oai/h2o-lightning-4b Strands-Decider 2B — https://github.com/strands-labs/strands-decider

评论

讨论整体充满调侃与怀疑,主轴是微软这款决策模型究竟是借开源小模型快速蹭热点,还是真在押注本地推理与廉价决策评分。多数人质疑它的定价、文档与评测透明度,也有评论指出它只是基于 Qwen 等开源小模型的包装;少数人则从本地推理/Windows AI API 方向理解微软,或对微软品牌只剩怜悯。

认为它只是基于 Qwen 小模型的快速包装,开放权重生态才是赢家

  • 这款决策模型被指和 Cloudflare Clef 等近期一批产品同源,都是拿较小的 Qwen 模型做后训练/包装;微软说明中确认用 Qwen3.5-9B 做快速单遍决策评分,之后还会换到 MAI、OpenAI 等模型,这被看作开放权重正在驱动整个生态,也反直觉地说明对中国模型的恐惧在消退。(少数人)

为了构建 Microsoft-Decision-1,微软用 Qwen3.5-9B 做后训练来实现快速的单遍决策评分,看来对中国模型的恐惧终于消退了。(@simonw)

质疑它定价不具竞争力、评测避重就轻,像为炒作赶工

  • 有人问为什么不做对 Jev 的准确率评测;也有人发现微软只把自己的价格和 GPT Sol 比,却不比 GPT Terra、GPT Luna,更不比真正的低价竞品 Jev,而 Jev 成本只有 Luna 的四成,因此认为它价格毫无竞争力、评测在避重就轻。加上 API 文档还没有、不知道怎么试用,整个发布看起来像赶热度。(较多人)

微软只把自己的价格和 GPT Sol 比,却不比 GPT Terra 或 GPT Luna(OpenAI 的 Jev 模仿品基于它们),更不比 Jev,而 Jev 的成本只有 Luna 的四成。(@HarHarVeryFunny)

认为微软在押注本地推理与 Windows 原生 AI API

  • 有人从战略角度看,认为微软并非只发一个单点模型,而是在重押本地推理,未来 Windows 可能会有可本地运行、也可选在云/边端运行的原生 AI API;这款决策评分模型只是该路线的一部分。(少数人)

微软似乎在重押本地推理,未来 Windows 会有原生 AI API,可在本地或按需在云/边端运行。(@chris_money202)

认为微软品牌已经烂到只剩怜悯

  • 有人表示微软品牌受损太严重,自己连负面情绪都没有了,只剩下怜悯;这种反应不是单纯吐槽产品,而是对微软整体信任耗尽后的冷漠与怜悯。(少数人)

微软品牌已经受损到我甚至不再有负面情绪,只剩下怜悯。(@bflesch)

有价值的补充

  • 有人用恶搞工单讽刺决策模型的路由输出:

一条“我拉在裤子里了,现在我的裤子里有屎”的消息被问“该哪个团队处理”,结果判给 Tech Support(85%),作者还补一句“听上去还真对”。(@MisterMunchkin)