算力需求如黑洞！OpenAI高層不停強調GPU不夠用

據《Business Insider》報導，OpenAI 的高層主管們似乎怎麼都講不膩公司對運算力的無止境需求。

OpenAI 產品長 Kevin Weil 最近在 Moonshot 播客節目中對 XPrize 創辦人 Peter Diamandis 表示，「每次我們拿到更多 GPU，它們立刻就被用完了。」

Weil 是最新一位在這個議題上發聲的 OpenAI 高層。OpenAI 執行長奧特曼 (Sam Altman) 上個月表示，公司到今年底將擁有超過 100 萬顆 GPU。作為比較，馬斯克 (Elon Musk) 旗下 xAI 公布，他們使用名為 Colossus 的超級叢集來訓練 Grok4，規模超過 20 萬顆 GPU。

奧特曼在 7 月於 X 平台上寫道，「對團隊感到非常驕傲，但現在他們最好開始想辦法，把這個數字放大 100 倍，哈哈。」

兩天後，奧特曼的前盟友、如今的競爭對手馬斯克表示，他希望 xAI 在 5 年內能擁有 相當於 5,000 萬顆輝達 (Nvidia)(NVDA-US)H100 晶片的算力。

這場競賽並非沒有原因。輝達應用研究副總裁 Jonathan Cohen 最近表示，GPU 對 AI 研究人員來說就像「貨幣」。而祖克柏 (Mark Zuckerberg) 的妻子、Chan Zuckerberg Initiative 共同創辦人 Priscilla Chan 也稱，他們甚至把 GPU 當成招募工具。

Weil 表示，這項需求其實非常單純，「我們拿到越多 GPU，大家就會使用越多 AI。」他將其類比為網路頻寬的提升，如何推動了影片的爆炸式成長。

他談到，「這就像網際網路一樣。每當我們降低延遲、提升頻寬，人們就會做更多事情，」「影片以前是不可能的，現在影片每天都在使用，因為網路的能力能夠支撐。」

對更多運算力的渴望，促使 OpenAI 推出星際之門 (Stargate) 計畫，財務長 Sarah Friar 最近表示。這是一項 5,000 億美元的項目，由 OpenAI、甲骨文 (Oracle)(ORCL-US) 和軟銀 (SoftBank) 共同推動。在今年 1 月於白宮揭幕時，奧特曼表示該計畫將幫助美國邁向通用人工智慧 (AGI)。

Friar 上周告訴 CNBC，「現在對 GPU 與算力的需求是極度龐大的，」「我們面臨的最大挑戰就是運算力永遠不夠用。這就是為什麼我們要啟動星際之門，為什麼要擴大建設。」

光是在產品端，Weil 表示有許多領域能直接使用更多 GPU。

他指出，「無論是用來降低延遲、加快 token 生成速度、推出新產品、讓原本只提供給專業用戶的產品下放到 Plus 用戶甚至免費用戶，還是單純讓我們能運行更多實驗，GPU 都能派上用場。」

同時，OpenAI 還得在研究人員的需求之間取得平衡。

Weil 表示，「在研究方面，對 GPU 的需求基本上是無限的，這就是為什麼我們要全力擴充容量。」