OpenAI Jalapeno芯片实测反超英伟达GB300：每瓦吞吐量1.5-1.9倍，延迟缩短70%

8月28日消息，OpenAI公布首款自研推理ASIC芯片Jalapeno实测数据。结果显示，Jalapeno每瓦吞吐量达到英伟达GB200/GB300的1.5-1.9倍，端到端延迟缩短40%-70%。这款功耗仅700W的芯片由博通联合设计、台积电3nm代工，从设计到流片仅用9个月。

实测数据亮眼

在大语言模型推理多项基准测试中，Jalapeno每瓦处理Token数量达英伟达旗舰GPU的1.5至1.9倍，相同功耗下可处理更多推理请求。端到端响应时间比英伟达方案缩短40%至70%，对实时对话等延迟敏感场景意义重大。Jalapeno功耗仅700W，数据中心可在相同电力条件下部署更多芯片。

9个月完成设计到流片

Jalapeno从设计启动到芯片流片仅用9个月，传统芯片设计通常需18-24个月。由OpenAI与博通联合设计，台积电3nm工艺制造。博通在ASIC设计领域经验丰富，曾为Google设计TPU芯片。OpenAI对AI推理工作负载的深刻理解结合博通设计能力，实现了高效协同开发。

AI算力格局生变

Jalapeno实测数据公布进一步加剧AI算力市场格局变化。随着Google TPU、亚马逊Inferentia、微软Maia及OpenAI Jalapeno等自研芯片亮相，英伟达垄断地位正被削弱。尤其在推理芯片领域，定制化ASIC成本优势明显，大规模部署可将推理成本降低50%以上。未来AI算力市场将呈现GPU+ASIC并存格局，GPU主导训练和通用推理，ASIC在大规模固定工作负载推理场景占据更大份额。