打造全球AI資料中心 不只需要輝達晶片

《Yahoo Finance》報導，輝達 (Nvidia)(NVDA-US) 正成為全球 AI 浪潮中的最大贏家。該公司的晶片是全球最搶手的產品，從亞馬遜 (AMZN-US)、Google(GOOGL-US) 到 Meta Platforms(META-US) 與微軟 (MSFT-US) 等超大型雲端業者，都投入數十億美元將其晶片部署在資料中心。

這也讓輝達的營收大幅成長。公司全年營收已從 2022 年的 269 億美元，增至 2025 年的 2,159 億美元，並預計 2026 年將突破 3,587 億美元。同時大幅推升了公司股價。

自 OpenAI 的 ChatGPT 於 2022 年 11 月推出以來，輝達股價已飆升近 990%。儘管過去一年市場熱情有所降溫，但其股價在過去 12 個月仍上漲 46%。

不過，推動 AI 基礎建設擴張的並不只有輝達。雖然輝達設計出 AI 產業核心的晶片，但實際上並不是由它將這些晶片安裝到資料中心中。你或許曾在輝達活動上看過其黑金配色的伺服器，但那些只是參考設計，而非實際部署在資料中心中的設備。

輝達的合作夥伴，包括戴爾 (DELL-US)、慧與科技 (HPE-US) 以及鴻海，才是真正打造支撐 AI 模型與服務的大型電腦叢集的企業。

慧與高效能運算與 AI 客戶解決方案副總裁 Chris Davidson 表示，「輝達多年來帶到市場上的主要是 GPU，接著擴展到資料處理器 (DPU) 與網路介面卡 (NIC)，以及各種驅動器、軟體開發套件（SDK）與相關工具，這些都是讓矽晶片技術得以運作的重要元素。」

「但說到底，如果沒有解決方案整合商把所有東西組合起來，這些都只是零件而已，只是基本元件。」

Davidson 表示，「我們與輝達合作時會先了解，他們正在開發什麼新技術？這些技術擅長什麼？我們的客戶有哪些工作負載需求？客戶有哪些應用場景？然後再圍繞這些需求設計最終的產品與解決方案。」

整個流程其實是一項龐大的工程。輝達處理器先從台積電 (TSM-US) 的晶圓製造廠出貨，再交由製造商組裝成單一伺服器模組與伺服器，最後被安裝進全球各地資料中心的一排排伺服器機架中。

最終，這些設備讓從 OpenAI、Meta 到 Google 與微軟等公司，能夠運行企業與消費者每天使用的 AI 服務。

前期規劃與工程師部署

建立資料中心並不是把幾台電腦丟進倉庫那麼簡單。負責串接伺服器的企業，通常在任何設備安裝之前就已經與客戶密切合作。

Davidson 表示，「很多人可能沒有意識到，在任何伺服器設備或產品送達之前，場地規劃其實就已經需要投入大量工作。」

他解釋道，「我們通常在資料中心建成之前就已經與許多客戶合作，如果客戶已有資料中心，我們也會了解它的位置、剩餘電力容量，以及可用的冷卻能力。」

戴爾基礎設施部門總裁 Arthur Lewis 表示，公司會派前線工程師加入團隊，這些團隊包括資料中心架構師、網路架構師、散熱架構師、運算架構師與儲存架構師，以評估如何最有效地滿足客戶的資料中心需求。

提供如此高規格服務的部分原因在於，沒有兩座資料中心是完全相同的。

Lewis 表示，「輝達擁有非常出色的技術，也建立了一個幾乎可以打造任何產品的生態系。」

他補充稱，「每個客戶的需求都略有不同，因為他們使用的軟體不同。這取決於工作負載。有些客戶主要是訓練 AI 模型，但即使是訓練工作負載，不同公司的軟體優化方式也不同。」

所有這些工作都必須盡可能快速完成。因為一旦基於輝達晶片的伺服器設備閒置、沒有運算資料，客戶在最初投資上的成本就會持續流失。

根據 Lewis，戴爾已開發出自己的策略，讓資料中心能以最短時間上線。

他形容，「現在的情況是，貨車開到客戶現場後，用堆高機把機架從貨車上卸下來，放到水泥基座上...... 接上電源，我們就能在 24 小時內投入正式運作，這在業界幾乎前所未見。」他補充稱，公司曾協助一名客戶在六周內部署 10 萬顆 GPU。

輝達的軟體優勢

不過，輝達並不只是把晶片交出去而已。該公司的一大競爭優勢來自其軟體產品，包括 CUDA 平台，能讓客戶充分發揮 GPU 的運算能力。

輝達企業平台副總裁 Justin Boitano 表示，「很多人忽略的一點是，輝達的大多數員工其實是軟體工程師。」

他補充道，「優秀的開發者文件、強大的開發工具，以及數十年建立的加速運算平台，都是吸引應用程式開發者採用這個平台的關鍵。開發者平台的普及性讓應用程式開發者可以從任何地方開始，最終在這個架構上打造下一代應用程式。」

輝達預計將在年度 GTC 大會上公布更多下一代軟體與硬體的資訊，該活動將於 3 月 16 日在美國加州聖荷西 (San Jose) 舉行。