一石激起千層浪 短短9個月 OpenAI自研ASIC晶片已超越英偉達Blackwell?
金色財經
作者:董靜,華爾街見聞
OpenAI首顆自研晶片Jalapeño橫空出世,以令人咋舌的速度顛覆了AI晶片行業的既有格局——這不僅是一次產品發布,更是一個信號:AI正在重塑晶片本身的設計方式。
據彭博8月25日報導,OpenAI表示,Jalapeño在單位功耗可處理的AI工作量和響應速度兩項關鍵指標上均領先英偉達GB300。該晶片由OpenAI與Broadcom合作開發,專為AI推理階段設計,最快將於今年晚些時候投入實際使用。OpenAI晶片負責人Richard Ho表示,Jalapeño在700瓦低功耗下即可實現強勁性能,有助於大幅降低數據中心電力成本。
據半導體研究機構SemiAnalysis披露,這顆晶片從設計啟動到完成流片僅歷時約16個月,而其中關鍵的CoWoS封裝流片節點完成於2025年11月,距今不過9個月,遠低於行業慣常的18至36個月周期。
SemiAnalysis研究人員親赴OpenAI實驗室,使用其自研基準測試套件InferenceX對Jalapeño進行了實測,結論直接:該晶片在每瓦性能(perf/W)指標上擊敗了他們此前測試過的所有英偉達、AMD及谷歌晶片。
更值得關注的是,這一成績是在Jalapeño尚未啟用投機解碼、未做預填充與解碼分離部署等優化手段的情況下取得的,而參與對比的其他晶片均已開啟各自最優配置。
難怪就連著名半導體分析師Dylan Patel也直言,「被掀翻的不只是Blackwell,就連英偉達Rubin晶片也被超越了」!
分析認為,這一結果對英偉達的市場地位構成直接挑戰,也令市場重新審視AI晶片競爭格局。
實測數據:Jalapeño在多項關鍵指標上碾壓Blackwell
SemiAnalysis的測試結果顯示,Jalapeño在推理效率上的優勢相當顯著。
在GPT-OSS 120B模型上,Jalapeño每秒可輸出約1459個Token,而英偉達GB200僅為535個;端到端延遲方面,Jalapeño完成一個任務僅需1.65秒,GB300則需接近6秒,差距達3.6倍。在高交互場景下,當GB300被推至其最快解碼速度(每秒169個Token)時,Jalapeño的吞吐量是其104.3倍。
在每兆瓦每秒輸出Token數這一衡量數據中心能效的核心指標上,Jalapeño在GPT-OSS模型上達到約5300萬個Token/MW/s,而GB200 NVL72僅約1000萬。
SemiAnalysis指出,這一指標本質上等同於每焦耳產出的Token數,直接決定了數據中心的收入天花板——在算力受電力約束的當下,這一維度的優勢尤為關鍵。
從系統級成本來看,據SemiAnalysis將供電、散熱、網路全部納入計算後,Jalapeño每晶片每小時總擁有成本約為1.56美元,與H100的1.55美元幾乎持平,而英偉達Vera Rubin則高達3.61美元。
值得注意的是,SemiAnalysis同時提出了若乾重要保留意見。
其一,測試所用模型並非當前最前沿的模型,英偉達和AMD已在更大規模模型(如DeepSeek V4 Pro、Kimi K3)上發布了基於AgentX套件的成績,而Jalapeño尚未完成AgentX測試——該套件更能反映多輪、長上下文等真實生產場景的性能表現。
其二,更公平的比較對象應是同樣採用HBM4的英偉達Vera Rubin,而非Blackwell;Vera Rubin的每瓦性能較GB200 NVL72提升約5.4倍,與Jalapeño相比,兩者在每Token總擁有成本(TCO)上幾乎持平。
其三,Jalapeño目前仍處於工程樣片階段,量產預計要到2027年才逐步爬坡。
AI設計晶片:GPT-Astra與Codex的"飛輪效應"
Jalapeño之所以能以如此驚人的速度完成開發,AI工具的深度介入是核心原因之一。據SemiAnalysis披露,OpenAI在晶片設計過程中大量使用了內部AI模型,其中包括被外界廣泛關注的GPT-Astra。
社交平台X用戶Andrew Curran援引OpenAI資訊指出,GPT-Astra深度參與了Jalapeño的研發全程:
"團隊藉助Codex與GPT-Astra,在兩個月內將三個原本不在Jalapeño量產計劃內的開源模型調優至高性能狀態。"
這意味著,AI不僅在加速晶片設計本身,還在快速擴展晶片所能支持的模型範圍。
SemiAnalysis的數據進一步量化了這一貢獻:
AI輔助設計使SIMD單元面積縮減8%,矩陣引擎面積縮減10%,同時在時序和功耗表現上均優於初始版本。
在軟體層面,OpenAI使用內部擴展版Codex編寫Jalapeño內核,部分內核代碼長達約3000行;在最吃性能的注意力機制和MoE模塊上,AI生成的代碼比人類頂尖工程師的實現快出1.5至1.8倍。
SemiAnalysis對此評價頗為犀利:跑在英偉達GPU上的OpenAI模型(如GPT-5.6 Sol),正被用來設計一顆對CUDA護城河構成真實威脅的晶片——"英偉達自己的GPU正在實時催生自己潛在的接班人"。
架構解析:為何"通用"反而更快?
外界普遍預設Jalapeño是一顆專為OpenAI自家模型深度定製的晶片,但SemiAnalysis的結論恰恰相反:Jalapeño是一顆面向AI推理的通用晶片,能夠運行各類模型和工作負載,甚至包括用Codex移植的《毀滅戰士》遊戲。
在架構層面,Jalapeño的核心設計哲學是"消除固定延遲"。與GPU依賴複雜內存層級不同,Jalapeño將計算核心與HBM切片直接綁定,核心間通過專用高帶寬集合網路同步,大幅降低了內存訪問延遲。
此外,Jalapeño採用亂序執行(OoO)核心搭配L1緩存,而非其他加速器普遍使用的軟體管理暫存器,這使其在小批量、低延遲場景下能夠更接近硬體理論峰值。
在內存帶寬方面,Jalapeño採用HBM4,實現了15.4TB/s的單封裝內存帶寬,每瓦HBM帶寬達22,而英偉達Rubin為11.1,GB300僅為5.71。
SemiAnalysis指出,Jalapeño的HBM4引腳速度達10Gbps,略高於英偉達Rubin的9.6Gbps,HBM供應商可能為三星。
值得一提的是,Jalapeño選擇不做預填充與解碼分離部署(PDD)。SemiAnalysis對此給出了詳細解釋:
在真實生產環境中,輸入輸出比例、並發量、緩存命中率等參數持續變化,固定分池會導致全局利用率下降;而同構資源池可以靈活響應流量變化,在延遲敏感型請求和高吞吐批處理之間動態調配。
CUDA護城河:裂縫已現?
SemiAnalysis在報告中拋出了一個頗具分量的判斷:CUDA的護城河可能已經死了。
其依據在於軟體起步速度的對比。英偉達Rubin的CoWoS流片比Jalapeño早一個月完成,但迄今為止,外界能看到的Rubin公開基準數據僅來自CoreWeave的工程樣片,英偉達並未像OpenAI那樣開放第三方進入實驗室自由測試。SemiAnalysis認為,這反映的不是硬體本身的差距,而是軟體成熟度的差距。
從零開始構建軟體棧,反而讓OpenAI得以擺脫歷史包袱,做出更乾淨的架構決策。OpenAI使用自研內核編程語言Gluon(基於Triton構建)以及內部推理引擎"Teacup",並藉助Codex快速完成內核調優。SemiAnalysis觀察到,在不到兩周的時間內,Jalapeño在特定交互速度下的吞吐量提升超過2倍;在8天內,團隊將張量並行從TP8擴展至TP32,實現了跨機架的全機櫃規模部署。
不過,SemiAnalysis也明確指出,目前的測試僅覆蓋8k1k這一相對簡單的工作負載,尚未完成AgentX多輪長上下文測試。在更複雜的智能體工作負載下,路由器、前綴緩存等組件的表現將成為新的考驗。
下一步:B0已入廠,10GW版圖徐徐展開
Jalapeño的故事遠未結束。
據SemiAnalysis披露,目前公開測試所用的均為A0步進樣片,而B0步進已進入晶圓廠,預計在每瓦性能上較A0再提升約25%——B0單顆計算die的MXFP4算力將達13.4 PFLOPs,TDP維持在700W。
在系統層面,OpenAI與Celestica合作設計了完整的機架方案:每個ASIC機櫃包含128顆Jalapeño晶片,雙機櫃系統總功耗約160kW,與英偉達GB300雙寬機櫃相當。
規模化部署方面,單一擴展網路域最多可連接2048顆Jalapeño XPU,覆蓋16個機架。量產方面,SemiAnalysis預計將於2027年逐步爬坡,下一個里程碑目標是100MW部署規模。
更大的戰略圖景是,OpenAI與Broadcom已簽署10GW定製加速器合作協議,這一量級大致相當於十座核電機組的滿發功率。
OpenAI晶片負責人Richard Ho表示,公司已達到能夠切實降低基礎設施成本的功耗和成本水平,"這只是第一步"。他同時強調,英偉達仍是重要合作夥伴,OpenAI對算力的需求極為龐大,短期內不會放棄現有供應商。
分析人士指出,Jalapeño的意義或許不在於它今天能替代多少英偉達晶片,而在於它證明了一件此前被普遍質疑的事:一家AI公司,用AI工具,在創紀錄的時間內,造出了一顆真正具備競爭力的晶片。這個飛輪,已經開始轉動。
來源:金色財經
發佈者對本文章的內容承擔全部責任
在投資加密貨幣前,請務必深入研究,理解相關風險,並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。
暢行幣圈交易全攻略,專家駐群實戰交流
▌立即加入鉅亨買幣實戰交流 LINE 社群(點此入群)
不管是新手發問,還是老手交流,只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資,都歡迎入群討論學習!
- 讓加密貨幣幫你滾出年化30%現金流
- 掌握全球財經資訊點我下載APP
- 講座
- 公告
下一篇