OpenAI自研推理芯片Jalapeño亮相：算力与能效双向超越英伟达

老灯 · 2026年8月29日

8月25日，OpenAI在Hot Chips 2026大会上首次公开了其自研推理ASIC芯片Jalapeño，该芯片与博通联手打造，从RTL到tapeout仅耗时九个月。

核心规格如下：13.4 PFLOPS MXFP4算力，216 GiB HBM4带宽，功耗控制在700W。单芯片可扩展至2,048片集群规模，整体性能可达27 exaflops算力与432 TiB HBM4容量。研发时间线：2024年底提出概念→2025年完成RTL freeze→2025年底实现tapeout→2026年初Codex已在该芯片上运行→随后ChatGPT也接入使用。

OpenAI官方介绍，测试聚焦于两个维度——用户实际感知延迟（time to last token）和单位能耗产出的token数量（tokens per joule）。测试基准为InferenceX公开数据集，对比对象包括GB200（1.2kW）与GB300（1.4kW）：

提醒：以上数据来源于OpenAI内部测试结果，目前尚缺乏独立第三方验证。测试方式也引发争议——Jalapeño采用单token预测，而Nvidia基线使用多token预测，且OpenAI自研的MTP技术在其自家芯片上还可额外提升3~5倍延迟表现。有分析师指出，这种对比"存在缺陷且有失公允"。

然而趋势已然明确：推理芯片领域，定制ASIC正逐步蚕食英伟达的市场份额。谷歌推出TPU，亚马逊打造Trainium/Inferentia，Meta研发MTIA，微软则带来Maia——这条赛道已逐步成型。英伟达的壁垒在于训练市场，但推理这一增速最快的领域，正被各家的自研方案不断侵蚀。

老灯速评：Jalapeño这一命名颇有深意——墨西哥辣椒，辣度十足但体型小巧。700W对比1.2kW，无论体积还是功耗都显著降低，但性能却要追平甚至超越对手。OpenAI此次押注的核心逻辑是：推理芯片无需追求通用性，只需针对自家模型实现极致优化即可。方向本身没有问题，但真实表现还需等待外部跑分验证。值得一提的是：Jalapeño在OpenAI自家测试中胜出，但这相当于自己命题、自己判卷——真实水准如何？还需等到产品上市后由第三方实际测评检验。

🔥 今日话题：你认为AI芯片的未来格局，将是"定制为王"还是"通用制胜"？评论区见。