鉅亨網編譯段智恆
OpenAI 周三 (24 日) 宣布,與博通 (AVGO-US) 合作開發的首款客製化人工智慧 (AI) 晶片已完成首批樣品製造並開始測試,象徵這家 ChatGPT 開發商正式跨出自研 AI 晶片的重要一步,藉此降低對輝達 (NVDA-US) 的依賴,並進一步提升 AI 模型運算效率與成本競爭力。

這款代號為「Jalapeno」的 AI 加速器專為執行大型語言模型 (LLM) 推論 (Inference) 工作負載設計。博通執行長陳福陽 (Hock Tan) 表示,目前測試結果顯示,Jalapeno 的運算成本較傳統 AI GPU 低約 50%,展現相當可觀的成本優勢。
雙方指出,正式版晶片預計今年稍晚開始部署至微軟 (MSFT-US) 及其他合作夥伴的大型資料中心。陳福陽表示,隨著市場需求持續攀升,OpenAI 與博通明年部署的 AI 晶片規模有望超越先前預估的 1.3GW(百萬瓩)運算容量。
雖然 OpenAI 目前仍大量採用輝達晶片訓練與執行 AI 模型,但近年來也積極分散供應鏈風險,陸續與超微 (AMD-US)、Cerebras(CBRS-US) 等業者簽署數十億美元合作協議,以滿足快速成長的 AI 服務需求。
事實上,OpenAI 早在去年 10 月便宣布與博通合作設計專屬 AI 加速器。根據先前報導,OpenAI 計劃未來投入數百億美元採購博通晶片,以支撐資料中心與 AI 基礎建設擴張需求。
OpenAI 硬體主管 Richard Ho 表示,Jalapeno 從零開始開發,並以創紀錄速度完成設計與試產。初步測試結果顯示,該晶片在每瓦效能 (performance per watt) 方面明顯優於現有最先進產品,不僅針對當前大型語言模型最佳化,也具備支援未來模型架構演進的能力。
Ho 指出,Jalapeno 雖然主要聚焦推論運算,但本質上仍屬通用型 AI 晶片,未來不排除應用於更多 AI 工作負載。他也透露,OpenAI 尚未決定是否開放其他 AI 模型開發商使用這款晶片。
在 AI 產業中,部分晶片強調大規模平行運算能力,另一些則專注於快速回應使用者查詢。OpenAI 表示,其目標是結合兩者優勢,兼具高效能運算與快速推論能力,同時透過降低資料傳輸量提升整體效率。
陳福陽透露,OpenAI 與博通已規劃後續產品藍圖,下一代晶片預計於 2028 年推出,此後將以每年更新節奏持續推出新產品。他認為,隨著 AI 產業競爭加劇,未來全球主要 AI 模型開發商都將打造專屬客製化 AI 晶片與網路架構,以掌握關鍵基礎設施主導權。
上一篇
下一篇