阿里巴巴云通过新型GPU池化系统，将Nvidia AI GPU使用量减少82%，同时使213块GPU实现相当于1192块的性能输出，效率提升高达9倍。

阿里巴巴云宣布通过新型资源池化系统大幅降低NVIDIA GPU使用量

在2025年ACM操作系统原理研讨会(SOSP)上，阿里巴巴云发表论文称，其自主研发的Aegaeon资源池化系统在内部测试中，将服务大型语言模型所需的NVIDIA GPU数量减少了82%。这项技术突破使得213块H20 GPU能够实现原本需要1,192块GPU的运算效能，相当于将输出效率提升至9倍。

关键技术突破： 1. 细粒度调度：采用token级别的任务调度机制，使单块GPU能同时服务多个AI模型 2. 动态资源分配：通过实时自动扩缩容技术，根据实际输出需求动态分配计算资源 3. 混合负载优化：成功在72B参数规模的大模型上验证了系统有效性

行业影响： - 特别适用于受出口管制的中国市场，缓解了NVIDIA H20芯片供应紧张问题 - 相比传统ServerlessLLM和MuxServe系统，有效输出提升1.5-9倍 - 技术已通过数月实际生产环境测试，论文获阿里巴巴基础设施CTO周靖人等专家背书

潜在限制： 该技术可能依赖于阿里巴巴自研的eRDMA高速网络架构和垂直优化的硬件环境，在其他云平台的普适性仍有待验证。不过这项创新为全球云计算服务商优化稀缺AI算力资源提供了新思路。

（注：原文中大量导航菜单、广告信息等无关内容已过滤，保留核心技术创新细节和行业影响分析）

总结评论内容：

1. 美国技术限制对中国的影响

• 观点：美国的限制可能迫使中国转向自主创新，最终提升效率
• 引用："forces innovation by China in a different direction"（迫使中国转向不同方向的创新）
• 引用："we may in the end have reason to thank the US for their civilisational gate keeping"（我们最终可能要感谢美国的文明守门行为）

2. 阿里云GPU资源优化

• 观点：阿里云通过新系统显著减少了对Nvidia GPU的依赖
• 引用："cut Nvidia GPU use by 82 percent"（减少Nvidia GPU使用量82%）
• 引用："17.7% of GPUs allocated to serve only 1.35% of requests"（17.7%的GPU仅服务1.35%的请求）

3. 技术生态系统的挑战

• 观点：虽然部署预训练模型可以节省成本，但研发仍依赖Nvidia生态系统
• 引用："far less likely for research to happen outside NVDA ecosystem"（研究不太可能在Nvidia生态系统之外进行）
• 引用："working with tiny models...Not sure how well it'd scale"（使用小型模型...不确定能否扩展）

4. 对中国技术博客的需求

• 观点：希望看到更多中国公司的技术博客作为非FAANG企业的参考
• 引用："would like to see some cases from Chinese companies"（希望看到中国公司的案例）
• 引用："good benchmark for everyone not in FAANG"（对非FAANG员工是很好的基准）