OpenAI与博通合作研发的推理芯片“Jalapeño”在Hot Chips大会上发布，从设计到流片仅用约16个月。该芯片在多个开源模型测试中性能超越英伟达、AMD和谷歌的同类产品，通过软硬件协同设计实现行业领先，而非过度专业化。
正文
好的，这是根据您的要求，对原文主要内容进行的中文重述，已保留关键细节并删减了与主题无关的内容。
OpenAI Jalapeño芯片：性能超越英伟达Blackwell
OpenAI在Hot Chips大会上发布了其自研推理芯片“Jalapeño”。该芯片是与博通合作，从零开始专为大语言模型推理设计的，研发周期极短，从团队组建到流片仅用了约16个月。
尽管初代芯片通常缺乏竞争力，但Jalapeño打破了常规。在多个主流开源模型上，其性能超越了英伟达、AMD和谷歌的同类产品。这得益于极致的软硬件协同设计。与普遍认知相反，Jalapeño并非针对OpenAI自身模型过度优化，而是一款适用于各种场景的通用推理芯片。
性能表现
在能效比（每兆瓦功耗产生的token数）方面，Jalapeño在所有测试场景中均击败了英伟达的Blackwell芯片。它不仅在低延迟场景表现出色，在高吞吐场景下同样优异。例如，在单用户并发下运行DeepSeek R1模型，其速度超过每秒700个token。这些成绩是在未使用多token预测、推测解码或预填充-解码分离等技术的情况下取得的。
需要指出的是，这些数据由OpenAI提供，并经过现场验证。但测试使用的是较简单的8k1k工作负载，尚未在更能反映真实生产环境的AgentX基准上进行。此外，Jalapeño的真正对手应是同样采用HBM4的英伟达Rubin芯片。即便如此，Jalapeño在能效比上依然优于Rubin，且其成本效益与Rubin相当，但Jalapeño的成绩并未使用推测解码，这意味着其未来还有更大的成本优化空间。
架构设计
OpenAI在设计上选择了不分离预填充和解码阶段，而是采用同质化的芯片池。这样做的原因是，随着模型从知识型向推理型和智能体型演进，工作负载的构成会动态变化，固定比例的异构芯片池可能导致效率低下。Jalapeño的架构旨在消除内存搬运和固定延迟，使其能在各种批处理大小和模型形状下都接近理论峰值性能。
芯片采用HBM4内存，带宽达15.4TB/s，高于英伟达Rubin。其核心与HBM被划分为多个切片，每个核心切片对其对应的HBM切片拥有低延迟的本地访问权限，切片间通过高带宽专用网络同步。这种简化的内存层次结构相比GPU复杂的系统，能节省大量功耗并提升性能。
软件与开发生态
OpenAI使用名为Gluon的编程语言来为Jalapeño编写内核。Gluon基于Triton，但提供了更底层的编程抽象，特别是“布局”概念，用于形式化定义硬件资源与张量元素之间的映射关系。Jalapeño的编程模型支持持久化内核模式，允许程序员而非硬件调度器来分配工作。
Jalapeño的开发速度惊人。从2025年11月流片到取得上述成果，仅用了9个月，其中实际芯片调试时间仅3个月。其开发团队利用AI辅助芯片设计，实现了面积和功耗的优化。更重要的是，OpenAI使用其内部版本的Codex AI编程助手，快速为Jalapeño编写了高效的内核，甚至在没有人工干预的情况下，为DeepSeek模型编写了MLA内核。这表明其软件流水线具备强大的快速开发能力。
系统与未来
Jalapeño的机架系统由CPU主机架和ASIC机架组成，总功耗约160kW。单个ASIC机架包含128颗Jalapeño芯片，通过铜缆背板连接。通过光路交换机，最多可将16个机架（共2048颗XPU）连接成一个扩展域。
Jalapeño的首个生产token即将推出，下一个目标是实现100MW的部署规模。其软件能力已得到验证，未来的主要挑战在于硬件生产、部署和运维。
评论
以下是针对评论内容的总结，涵盖主要观点、论据及不同立场，并保留关键引用：
1. 硬件进步与成本下降
- 观点：持续硬件改进将推动AI推理成本大幅下降。
- 引用："Continued hardware improvements really make it hard for me to believe token prices will not continue to plummet." (anthonypasq)
- 引用："Once models are more or less interchangeable, the price of LLMs will drop to essentially the price of energy required to run them." (empath75)
2. 定制芯片的竞争与垄断
- 观点：定制芯片可能成为新护城河，但面临供应链和迭代挑战。
- 引用："I suspect the same will be the case with OpenAI vs Cerebras + Nvidia/Groq" (LarsDu88)
- 引用："How can OpenAI mass produce this chip at scale more economically than Nvidia?" (simianwords)
3. 资源限制（水、能源）
- 观点：AI发展受限于水资源和冷却能力，而非单纯电力。
- 引用："The future AI oligarchs are whoever controls the most water." (0xbadcafebee)
- 引用："To generate power, you need water. To cool chips, you need water." (0xbadcafebee)
4. 消费者与企业的分化
- 观点：未来消费者将转向本地模型，减少对数据中心依赖，但可能削弱AI利润。
- 引用："Consumers will eventually have affordable hardware designed to run crazy-good local models." (0xbadcafebee)
- 引用："That will take pressure off of datacenters, but also reduce AI profits." (0xbadcafebee)
5. 技术细节与效率对比
- 观点：FP4精度、芯片尺寸、人脑效率等细节引发讨论。
- 引用："FP4 is, well, almost comical." (epistasis)
- 引用："Humans are still 22x more efficient [in tokens/Joules]." (fraboniface)
6. 行业生态与动机
- 观点：分析机构（如SemiAnalysis）的独特背景影响行业解读。
- 引用："SemiAnalysis is not cut from the same cloth as Gartner McKinsey et al." (jimmySixDOF)
7. 竞争与IPO前景
- 观点：定制芯片竞争可能推动IPO，利好投资者。
- 引用："This means that they're going to want to IPO soon - this is good news for investors." (lelanthran)
平衡性说明：评论中既有对硬件进步和成本下降的乐观（如anthonypasq），也有对资源垄断和供应链挑战的担忧（如0xbadcafebee、simianwords）。技术细节（如FP4）和效率对比（人脑vs芯片）则呈现中立分析。