Meta推出Muse Glimmer，一个300亿参数的开源模型，可在本地设备运行，支持代理、编程等任务，性能接近前沿模型。

今天，Meta超级智能实验室发布了Muse Glimmer，这是一款拥有300亿参数的开源模型，采用Apache 2.0许可协议。该模型专为本地代理工作流优化，可在配备单张消费级GPU的Mac或PC上运行，支持本地代理、函数调用、本地编程及LLM评估等场景。在同类模型中，Muse Glimmer在关键代理任务和基准测试中表现优异。

尽管基础模型在推理、代码生成和工具使用方面能力突出，但多数部署仍依赖云端和网络。本地运行模型则能实现随时随地的AI使用，无需联网。开源社区已证明，经过有效训练的小型模型可在特定任务上接近前沿水平，Muse Glimmer正是为此优化。

我们延续开放AI研究的传统，在Hugging Face上发布了Muse Glimmer的开放权重，并提供了开发者文档。该模型兼容开发者常用工具，未来几天将集成llama.cpp、MLX和ExecuTorch，实现快速部署。

训练方法

为平衡本地硬件的内存和计算限制，Muse Glimmer采用了紧凑架构、新颖的蒸馏技术（从大型教师模型迁移代理推理能力）以及量化等推理优化。训练分为三个阶段： - 预训练：使用Muse Spark的输出进行logit蒸馏。 - 中期训练：融入更长上下文、更丰富的代理数据和推理轨迹。 - 后训练：结合监督微调、策略蒸馏和强化学习，覆盖通用、推理、编码和代理领域。

模型已按Meta高级AI扩展框架标准评估，适合开放权重发布。

代理能力

Muse Glimmer在以下方面经过训练和评估： - 端到端任务完成：在DeepSearch QA、MCP-Atlas、τ-Bench和SWE-Bench等基准测试中表现优异。 - 可靠工具使用：支持精确模式调用，处理复杂工作流。 - 多步推理：在长周期任务中保持连贯计划。 - 故障恢复：能诊断工具调用错误并重试。 - 多模态输入：通过感知编码器处理文本和图像。 - 框架兼容：支持OpenClaw等编排模式。 - 可控推理强度：平衡质量与速度。 - 多语言：覆盖100多种语言。

性能表现

与Gemma4-31B和Qwen3.6-27B相比，Muse Glimmer在代理、编码、多模态、安全和推理基准测试中表现强劲。详细评估见报告。

本地部署优化

为在消费级硬件上实现快速响应，我们采用了两种优化： - 量化压缩：将模型权重压缩至约4位精度，使语言模型体积降至20GB以下，可在24GB或32GB内存中运行，且对代理任务影响极小。 - 推测解码：基于DFlash的轻量草稿模型可一次性生成多个令牌，主模型并行验证，显著提升生成速度。

实测显示，在MacBook M4-Max、M5-Max和RTX 5090上，量化模型配合DFlash解码可实现流畅对话和实时代理交互。

立即开始

Muse Glimmer现已可用，可从Hugging Face下载权重。未来几天可通过Ollama、LM Studio、Unsloth等合作伙伴本地运行，或使用vLLM、SGLang大规模部署。我们正与AMD、Arm、Dell、Intel、NVIDIA等合作优化设备性能，并发布了开发者文档和自定义框架指南。

这项成果延续了Meta开放AI研究的传统，为开发者提供了本地代理能力。我们期待社区的反馈和创意应用。

根据评论内容，总结如下：

主要观点与论据：

1. 积极评价Meta开源策略：评论1、2、7、11称赞Meta回归开源，发布新权重模型。关键引用：评论1 "good to see new open weights releases from meta"；评论7 "Wow, Meta is back (at least for now)!"

2. 模型性能与竞争：评论3、8、14关注模型与Qwen、Gemma等竞品对比。评论3 "Will be interesting to see how Qwen3.8 27B compares against this"；评论8 "The favourable comparisons to Gemma 4 and qwen3.6 look promising!"

3. 硬件需求与实用性：评论5、6、12、10讨论内存和运行成本。评论6 "Still needs 32-64GB memory to run it locally"；评论10 "4-bit gets the LM under 20GB, but they're explicitly budgeting the KV cache... into the same 24GB envelope"

4. 量化与性能质疑：评论10、14对量化后性能保持和基准测试真实性存疑。评论10 "Minimal to no degradation on agentic tasks from quantization is also a strong claim"；评论14 "it does look like a careful distillation of (Spark and) biggers open-weight models"

5. 开源定义争议：评论15批评"开放权重"与真正开源混淆。评论15 "I wish we would stop calling these things 'open weight' because it is too easy to confuse with actual 'open source'"

平衡性总结：多数评论对Meta发布新模型持积极态度，但存在对硬件门槛、量化性能、基准测试真实性和开源定义的质疑。不同观点间保持平衡，既有期待也有审慎。