menu-icon
anue logo
鉅樂部鉅亨號鉅亨買幣
search icon
美股

數據中心成新王牌!生成式AI十年周期 輝達漲勢才剛起步

鉅亨網新聞中心 2024-03-01 12:34

cover image of news article
數據中心成新王牌!生成式AI十年周期 輝達漲勢才剛起步 (圖:REUTERS/TPG)

開年甫兩個月,輝達 (NVDA-US) 股價已漲近 60%,但即便已經在高點,輝達業績表現再度遠超預期。甚至有分析師評論,「没有什麼比死亡、税收和輝達獲利超出預期更確定的事情了。」

輝達 2024 財年第四季(截至 2024 年 1 月 28 日)營收年增 265%,達 221 億美元,遠高於分析師預期和輝達上季給出的財測 (200 億美元)。除此之外,輝達獲利升至 9 倍,達 123 億美元,毛利率更飆升至 76.7%。

這樣壯觀的業績背後靠的是營收占比達 83% 的數據中心業務。該業務在第四季年增 409%,達 184 億美元。輝達表示,數據中心業績的成長反映了 Hopper GPU 出貨量的增加,因為該產品用於訓練和推理大語言模型和生成式 AI 應用。

過去,數據中心的主要場景是互聯網客戶在雲端運作的加速運算需求,但如今在輝達數據中心業務中,大模型的推理場景的營收占比達 40%,與生成式 AI 的應用同為數據中心業務的支柱。

先前,多位雲端運算產業人士向極客公園表示,去年採購輝達的 GPU,主要用來做大模型的訓練,只有大模型在實際場景中作為應用被廣泛調用,算力才會更多被用於推理。

輝達客戶們——頂流大模型廠商和 AI 應用公司,他們現在在用大模型做什麼? 效果如何? 什麼是大模型給業務現在就能帶來的好處?

輝達估計,過去一年,數據中心營收約莫 40% 來自人工智慧推理、構建和部署人工智慧解決方案,幾乎涉及每個行業。執行長黃仁勳尚且表示,該比例已是保守估計,因為舉凡網路新聞、影片、音樂等推薦算法系統,過去是基於 CPU 的方式,現在,隨著深度學習和生成式 AI 的滲透,這些推薦演算法系統開始轉向 GPU 加速的方式。

「搜尋附近的服務需要 GPU 加速,排名需要 GPU 加速,並且需要 GPU 加速來產生增強資訊。GPU 現在存在於推薦系統的每個步驟中,世界上幾乎每個大公司都必須運行這些大型推薦系統。 」

除此之外,還有很多新的推理場景,當使用 ChatGPT 時,就是在做推理,當使用 Adob​​e 的 Firefly 模型生成圖片時,就是在做推理,等等。

對於 40% 的推理佔比,輝達財務長 Colette Kress 稱,消費者互聯網公司正在投資生成式 AI,透過內容創作和廣告、線上產品描述和人工智慧購物輔助的自動化工具,為內容創作者、廣告商和 客戶提供支援。企業軟體公司正在應用生成式人工智慧來幫助客戶實現生產力的提升,例如微軟和 Meta。

微軟近日公佈,超過 50000 個組織使用 Github 的合作試點業務來提高其開發人員的生產力,這使得 Github 營收年增 40%,其他軟體業務也有類似成長,如 Microsoft 365 中的 Copilot 。

Meta 在最近一個季度的財務表現,則顯示了 AI 在推薦演算法的應用,(大模型帶來的)更準確的預測和廣告客戶表現的改善是其營收顯著增長的原因。

相較於數據中心的漲勢,輝達曾經的王牌——遊戲業務(包括筆記型電腦和個人電腦顯示卡)年增 56%,達到 28.7 億美元。 汽車業務則較去年同期下降 4% 至 2.81 億美元,而其 OEM 和其他業務(包括加密晶片)則成長 7% 至 9,000 萬美元。 輝達為專業應用製造圖形硬體的業務成長了 105%,達到 4.63 億美元。

在創紀錄的財務表現下,輝達也有隱憂──中國限制、同業競爭

輝達表示,受到美國最近限制向中國出口先進人工智慧半導體的影響,其中國數據中心營收大幅下降,第四季中國地區數據中心營收占比已自 2023 財年的 19% 下降至個位數,預計 2025 財年第一季也將維持在類似範圍內。

另一項挑戰來自同業競爭,各企業正聯手遏制輝達繼續變得更強大。上周三,英特爾在矽谷召集了一系列合作夥伴和潛在客戶,討論其提供製造服務的計劃,這可能會提高行業製造人工智慧晶片的能力。 與會者還包括 OpenAI 執行長 Sam Altman。高度依賴輝達的 OpenAI 此前被爆出正籌集 5 至 7 兆美元以建設 AI 晶片等基礎設施的消息。

輝達現有的大客戶,亞馬遜、谷歌和微軟等大型雲端運算公司也正在設計自己的人工智慧晶片,並在內部使用,這使得它們減少了對輝達晶片的依賴。 微軟最近還開發了可加速伺服器之間資料流的網路設備,該設備與配備其晶片的輝達網路設備競爭。

儘管當前 AI 晶片供不應求,輝達的成長暫時不會放緩,但輝達高層仍深知挑戰四伏,而提前佈局未來。黃仁勳在法說會上表示,公司仍處於人工智慧基礎設施浪潮第一波的早期階段,未來還會有更多的成長,向超大規模企業和人工智慧新創公司銷售產品。「我們確實進入了將該技術傳播到各個行業的 10 年周期的第一年。」

未來,輝達透過新客戶和新業務,可能帶來新的成長引擎。

新客戶方面,在美國和中國以外的地區,「主權人工智慧」已成為另一個需求驅動因素。例如,輝達向阿聯酋公司賣出了「主權人工智慧」的想法,且其數據中心項目在當地落腳。

輝達表示,世界各國都在投資人工智慧基礎設施,以支援在本國語言、國內數據基礎上建構大型語言模型,並支持本國的研究和企業生態系統。

在新業務方面,輝達特別提到了軟體收入

黃仁勳表示,軟體對於加速運算至關重要,這是加速運算和通用運算之間的根本區別。 軟體在輝達與雲端廠商合作方式中非常關鍵,輝達為其帶來 CUDA 生態,又因為生成式 AI,讓所有軟體企業都需要加速運算,提高吞吐量,但絕大多數企業沒有大型工程團隊來維護和優化他們的軟體堆疊,以在全球所有雲端和私有雲以及本地運行。 因此,輝達將對這些企業所有的軟體堆疊進行管理、最佳化、修補,也就是 Nvidia AI Enterprise 服務。

「我們將其推向市場的方式是將 Nvidia AI Enterprise 視為作業系統,每年每個 GPU 收取 4500 美元。我的猜測是,世界上每一家在專有雲和私有雲中部署軟體的軟體企業公司 ,都將在 Nvidia AI Enterprise 上運行」黃仁勳說。






Empty