文章摘要
Modular宣布其AI平台正式投产,每秒处理数十亿token,并将Mojo 1.0完全开源,推出Modular Cloud服务,新增对AWS Trainium、Google TPU及高通AI加速器的支持,同时与微软合作推进Mojo原生Windows支持。
文章总结
四年前,Modular公司押注AI不会永远依赖单一芯片,软件栈需要为异构硬件和日益复杂的AI工作负载重新架构。在ModCon 2026主题演讲中,我们展示了这一赌注的成果:Modular平台现已投入生产,每分钟处理数十亿个令牌,并支持真实的企业部署。我们正在向生态系统开放更多平台功能,扩展至全新硬件类别,并与主要行业伙伴合作。
具体而言,Modular与高通宣布: - Mojo 1.0完全开源,采用Apache 2.0许可证。 - Modular Cloud公开可用,服务于MiniMax等旗舰客户。 - Modular平台现支持AWS Trainium、Google TPU、高通Cloud AI 100和Dragonfly加速器,以及CPU和GPU。 - Mojo将原生支持Windows,与微软Windows团队合作开发。 - MAX许可证取消设备使用限制,并以源代码可用形式提供,配合开放联盟计划,让生态系统共同构建平台。
异构计算时代已到来,而它拥有一个统一的开放软件平台。
Mojo 🔥 现已开源
上周,我们宣布Mojo达到1.0版本,为开发者提供稳定、可投入生产的长期基础。1.0版本的核心是稳定性保证:你编写的代码不会因更新而失效。今天,我们更进一步:整个Mojo语言在Apache 2.0许可证下完全开源,包括编译器和所有工具。你可以扩展语言、移植到新平台,并构建任何应用。这延续了我们自2024年开源Mojo标准库、2025年开源MAX内核以来的渐进式开放策略。更多信息请访问mojolang.org。
Mojo的Windows支持
Mojo已支持macOS和Linux多年,Windows开发者可通过WSL使用。原生Windows支持一直是开发者最常提出的需求。数百万开发者每天在Windows上构建各种应用和工作负载。我们相信Mojo能对这一生态系统产生重要影响。与微软Windows团队的合作,确保了Mojo在Windows上的正确实现。
推出Modular Cloud
Modular Cloud将完整Modular栈整合为生产级服务,为开发者提供行业领先的推理性能,同时简化跨异构基础设施的部署、优化和运维。该服务现已通过console.modular.com公开提供,支持共享端点和专用部署。共享端点兼容OpenAI,按令牌计费;专用部署可在我们的计算资源或用户自有资源上运行。
过去几个月,Modular Cloud以ModelRun名义为OpenRouter处理流量,其端点在延迟和吞吐量方面持续排名平台前列。独立基准测试机构Artificial Analysis也证实了这一点。
MiniMax
MiniMax是Modular Cloud的旗舰企业客户,在专用部署上运行M3模型,每分钟处理数十亿令牌。高效服务M3面临独特挑战:它结合了100万令牌的上下文窗口、原生多模态和MiniMax稀疏注意力(MSA)架构。我们通过原生实现M3、构建专用MSA内核、优化部署模式,实现了顶尖性能。
超越GPU:Trainium、TPU和Dragonfly
Modular Cloud已在NVIDIA和AMD GPU上运行生产工作负载。今天,我们将硬件支持扩展至定制AI加速器,包括AWS Trainium、Google TPU、高通Cloud AI 100 Ultra和Dragonfly。所有硬件通过同一Modular平台运行,使用相同的建模API、服务流程、编程语言和核心抽象。开发者只需编写一次模型,即可部署到不同硬件架构,无需重建软件栈。更重要的是,启用这些新硬件的工程工作量比传统方法减少了10倍以上。
未来几个月,我们将把这些新硬件平台投入生产,并通过Modular Cloud提供。
MAX:与生态系统共建共同基础
AI硬件创新加速,但优秀硬件只有被开发者使用才有价值。行业需要共同软件基础:一次编写模型,覆盖所有加速器;根据性能和成本选择硬件,而非受限于软件栈。Modular平台正是为此而建。
与高通的合作强化了这一目标。Modular平台将继续支持并优化各类硬件,包括与高通直接竞争的平台。生态系统的机遇远大于任何单一厂商的路线图,只有所有人都能参与,基础才能成立。
为此,我们启动两项重要举措: - 开放MAX:调整许可模式,扩大源代码访问,让开发者、企业、硬件厂商和合作伙伴能构建、扩展并贡献。 - 建立生态系统联盟计划:涵盖硬件厂商、模型提供商、云公司和数据中心运营商,让合作伙伴直接参与MAX集成、优化和平台发展方向。
HTEC已展示了这一模式:他们的工程师仅用几个月、少数几人,就在Modular平台上实现了Google TPU支持,我们仅提供辅助支持。这验证了我们正在构建的生态系统可独立扩展。
其他初创硬件厂商也看到了同样需求。d-Matrix创始人兼CEO Sid Sheth表示:“d-Matrix与Modular对异构计算的共同承诺,基于对开放标准的相互支持。在解耦异构计算时代,开放标准能加速GPU、CPU和XPU的协同部署,实现规模效率。”
立即尝试
开源Mojo 1.0的所有资源现已通过mojolang.org提供。Modular Cloud已上线console.modular.com。如果你在旧金山参加ModCon,下午的技术讲座将深入探讨以上内容。
AI发展太快,每家公司无需重复构建相同基础设施。模型越来越大,服务越来越分布式,硬件越来越异构。开放水平平台曾重塑行业,但只有生态系统共同参与才能实现。如果你从事硬件、模型、基础设施或应用开发,欢迎加入我们,共同构建这一基础——请联系alliance@modular.com。
评论总结
根据评论内容,总结如下:
正面观点(认可度较高): - 开源后引发兴趣,语言特性(Python风格、编译时计算、GPU支持)受好评 - "I've been enjoying the language (pythonic, comptime, tile support)" (knlb) - "Mojo is an awesome language, I've used it a lot as a Swift/Python lover" (joshuakelleyds) - 开源许可宽松(Apache 2.0),被视为对抗NVIDIA的战略举措 - "Kudos to Qualcomm for releasing it under a liberal Apache 2.0 license... an anti-NVIDIA play" (woadwarrior01) - 基于MLIR的编译器优化能力受关注 - "It's built on top of MLIR so you can make compiler optimizations in a library" (bobajeff)
负面/质疑观点: - 开源过晚,已失去早期势头 - "the long time it took them to open source I think burnt a lot of the initial traction" (acheong08) - "They made a big mistake by not open sourcing before, doubt they'll ever gain traction now" (Heidaradar) - 对高通收购后项目前景存疑 - "given Qualcomm history, open sourcing just after acquisition feels like they don't care about it" (tecleandor) - "Qualcomm is a notoriously closed source company. Don't reward them" (wewewedxfgdf) - 尚未兑现Python超集承诺,系统编程支持不足 - "They still haven't lived up to the python 'superset' promise" (joshuakelleyds) - "I looked into porting my current rust project... it wasn't ready for that sort of work yet" (fluidcruft)
中立/观望观点: - 项目存在感低,讨论热度不足 - "Does this project have any meaningful traction? ... completely missing from the regular discussion" (aeonflux) - 期待后续功能(代数数据类型、模式匹配等) - "I'm waiting for Phase 2: especially 'Algebraic data types & pattern matching'" (rubymamis)