OpenAI晶片每瓦效能勝Blackwell 分析師：輝達最大威脅浮現

隨著OpenAI及科技巨頭加速布局自研晶片，輝達在先進AI晶片市場的主導地位正面臨新挑戰。分析師認為，OpenAI首款客製化推論晶片Jalapeno若順利大規模部署，可望降低推論成本與對輝達(NVDA-US) GPU的依賴，進而對輝達成長最快的推論業務及利潤率構成壓力。

OpenAI周二（25日）公布Jalapeno的技術細節，宣稱這款晶片的反應速度及能源效率已超越輝達GB300。Jalapeno由OpenAI與博通共同開發，專門針對目前及未來的大型語言模型設計，預計今年底前部署至OpenAI的運算基礎設施。

Yole Group技術分析師Adrien Sanchez指出，Jalapeno是一款專為推論工作設計的晶片，顯示超大規模雲端服務商打造的晶片，在推論能源效率方面已能媲美、甚至超越輝達Blackwell等級GPU。

Sanchez表示，輝達目前仍掌握絕大多數AI運算市場，並透過CUDA軟體平台形成強大的生態系黏著度，但Jalapeno可能威脅輝達推論業務的利潤率，而推論正是AI市場目前成長最快的領域。

OpenAI長期以來一直是輝達GPU的重要客戶，大量採購其晶片訓練及運行大型AI模型。隨著OpenAI開始採用自研晶片，雙方既有的合作關係也可能出現變化。

Omdia資深首席分析師Alexander Harrowell認為，Jalapeno是一項令人印象深刻的成果，尤其在能源效率方面表現突出。若投入大規模部署，不僅能節省電力及冷卻成本，也可降低配電基礎設施需求，顯著改善OpenAI的單位經濟效益。

TrendForce分析師Fion Chiu也表示，OpenAI的客製化晶片可能逐步降低其在推論任務上對輝達的依賴。不過，輝達GPU具備高度可程式化、強大效能、成熟軟體生態系，以及處理多種工作負載的能力，未來仍將扮演重要角色。

研究機構SemiAnalysis曾造訪OpenAI實驗室並測試Jalapeno。結果顯示，Jalapeno在幾乎所有測試情境中的每瓦效能都優於輝達Blackwell，但該機構也提醒，這項比較並不完全公平，因為Jalapeno採用更新一代的HBM4記憶體，更適合與輝達Rubin平台進行同級比較。

此外，輝達Vera Rubin系統已開始向客戶出貨，Jalapeno則仍須一段時間才能從工程樣品走向成熟產品。因此，自研晶片短期內尚難全面取代輝達GPU，但可能率先分食用途較明確、部署規模龐大的推論工作負載。

不只OpenAI，Google已推出可用於AI訓練及推論的TPU，Meta也同意採用以博通技術為基礎的客製化AI晶片。Anthropic則承諾未來10年向AWS技術投入逾1,000億美元，其中包括亞馬遜現有及未來版本的Trainium晶片。

Harrowell預估，客製化ASIC晶片出貨量到2028年將超越GPU，但由於GPU售價明顯較高，ASIC營收規模仍需更長時間才能超車。他認為，這是輝達面臨的最大競爭威脅，因為AI基礎設施資本支出約有一半來自超大規模雲端服務商，而這些業者不是已經擁有自研晶片計畫，就是具備自行開發的能力。