OpenAI「Jalapeño」晶片推論測試優於Nvidia Blackwell達1.9倍

OpenAI首款與博通（Broadcom）共同開發的自研推論晶片，每瓦特工作量較Nvidia Blackwell加速器高出1.5倍至1.9倍，這項第一代成果對AI晶片龍頭的資料中心主導地位構成威脅。

OpenAI硬體副總裁Richard Ho表示：「Jalapeño同時實現高吞吐量與低延遲，這在業界尚屬首次。」

根據SemiAnalysis的InferenceX基準測試，在GPT-OSS 120B、DeepSeek R1和Kimi K2.5的測試中，Jalapeño的端到端延遲較Blackwell系統低1.7倍至3.6倍，互動式推論速度快2.1倍至4.1倍。在DeepSeek R1上，該晶片在併發數為1的情況下，每位用戶每秒可處理超過700個token。

這項結果在Nvidia公布第二財季業績的前一天出爐，市場共識營收約在910億至920億美元之間。Nvidia股價在過去五次財報中有四次在公布後下跌，儘管業績優於預期；來自Google、亞馬遜（Amazon）和Meta的自研晶片正逐步侵蝕其市占率。

Jalapeño規格縮小效率差距

每個機架配備128個加速器、1.7 exaFLOPS的4位元運算能力、27.5太位元組的HBM4記憶體，以及每秒接近2 PB的頻寬。該晶片採用台積電N3P製程，熱設計功耗為700瓦，相較之下Nvidia Rubin運算晶片為900至1,150瓦。OpenAI於2025年11月完成Jalapeño的tape-out，距離設計工作啟動約16個月，目前B0步進已進入量產。

該架構省去了迫使GPU在大型tensor形狀下隱藏延遲的複雜記憶體系統。核心與HBM被拆分為多個切片，每個切片具備低延遲的本地視圖，並透過專用集體網路進行同步。具備L1快取的亂序執行核心避免了軟體管理的scratchpad對Google TPU和亞馬遜Trainium等競爭對手所施加的屏障延遲。

SemiAnalysis提醒，與Blackwell的比較「在某種程度上不完整且不公平」，因為Jalapeño真正的競爭對手是同樣採用HBM4且已開始向客戶出貨的Rubin。Jalapeño目前仍處於工程樣品階段，預計於2026年底部署，2027年進入量產。測試排除了投機性解碼，且OpenAI未披露系統級功耗。

自研晶片對Nvidia護城河的壓力

Jalapeño僅供推論使用，Nvidia在訓練領域的主導地位不受影響。但更廣泛的轉變顯而易見：Google的TPU 8t和8i已於4月發布，亞馬遜Trainium3的年化營收運行率已突破250億美元，Meta的MTIA 300於3月問世。作為這一轉變的供應商，博通在單一季度的AI半導體訂單超過300億美元，並將第三季AI營收指引上調至160億美元，年增超過200%。

SemiAnalysis的Dylan Patel稱Jalapeño為「重大新聞」，並指第一代自研晶片能在任何方面擊敗Blackwell實屬罕見。OpenAI使用其Codex模型編寫該晶片的kernel，每個kernel約3,000行程式碼，並透過基於Triton構建的Gluon語言進行程式設計。這套在數月內從零開發的軟體堆疊正是OpenAI的優勢所在：它在數週內就將DeepSeek R1、Kimi K2.5和GPT-OSS部署到該晶片上。

Nvidia股價報213.05美元，年初至今上漲14.37%，正面臨一個今晚財報無法解答的結構性問題：其最大客戶正日益成為其競爭對手。如果Jalapeño的效率優勢在規模化後得以維持，成本優勢可能使每年數十億美元的推論支出從Nvidia轉移，儘管該晶片要到2027年才放量，這讓現任霸主仍有數年時間應對。

本文僅供資訊參考，不構成投資建議。本文僅供資訊參考，不構成投資建議。