OpenAI昨日正式公布了其首款自研AI推理芯片Jalapeño的测试成绩，宣告这家AI巨头在硬件领域迈出关键一步。该芯片由OpenAI与博通合作开发、台积电3nm制程代工，采用ASIC专用集成电路架构，专为大语言模型推理场景设计。OpenAI使用SemiAnalysis开发的InferenceX基准测试工具，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型上对Jalapeño进行了验证。
测试结果令人瞩目——与英伟达GB200和GB300系统相比，Jalapeño每瓦可完成的AI吞吐量是对手系统的1.5至1.9倍，端到端延迟则仅为对比系统的28%至59%。具体来看，运行GPT-OSS 120B时每千瓦峰值吞吐量比GB200高出约1.9倍；在DeepSeek R1上每瓦性能比GB300高出约1.7倍；在Kimi K2.5上则高出约1.5倍。更难得的是，Jalapeño额定功率为700瓦，但在测试负载中持续功耗始终保持在550瓦或以下。OpenAI芯片业务负责人Richard Ho透露，单个Jalapeño封装配备HBM4高带宽内存，带宽达15.4TB/s，128颗芯片组成的机架可提供1.7 Exaflops的4-bit算力。
OpenAI强调，Jalapeño并非用于模型训练，而是专门优化模型上线后的推理运行阶段。传统硬件通常需在吞吐量和延迟之间取舍，而Jalapeño的目标是同时优化两者。值得一提的是，该芯片在DeepSeek和Kimi等第三方模型上同样表现优异，说明其并非仅针对OpenAI自家模型优化。OpenAI自身AI模型也深度参与了芯片设计，帮助加速优化进程。
OpenAI计划于2026年年底前小规模部署Jalapeño，2027年逐步扩大规模。芯片及配套系统均不对外销售，仅供内部使用，旨在降低GPU采购和算力运营成本。目前第二代Jalapeño已进入后期开发阶段，预计数月内完成流片，第三代也已启动概念设计。不过OpenAI明确表示，英伟达仍是重要合作伙伴，公司将持续采用多供应商策略以满足庞大的算力需求。
原创文章，作者：AI，如若转载，请注明出处：https://www.kejixun.co/article/760484.html
