微軟挑戰輝達AI壟斷！開發工具包轉CUDA程式碼到AMD ROCm

微軟 (MSFT-US) 正在探索如何利用超微半導體 (AMD-US) GPU 的完整軟硬體堆疊來執行 AI 推理工作，同時也正在開發工具套件，將以輝達 (NVDA-US) CUDA 為基礎的模型轉換為可在 AMD ROCm 軟體棧上運行的程式碼。

根據《Wccftech》報導，隨著推理工作負載的增長，微軟正在尋找更具成本效益的工作負載，而相較於昂貴的輝達 GPU，AMD 的 AI 晶片在成本上更具優勢。

不過，由於推理環境中無法忽略 CUDA 模型，因此將 CUDA 轉換為 ROCm 成為微軟下一步的重要策略。

外媒指出，輝達之所以能在 AI 市場保持領先，很大程度上是因為其擁有成熟的 CUDA 軟體生態系統。雖然市場上已有跨平台軟體支援的嘗試，但仍未出現被廣泛採用的解決方案。

然而，一名「高階」微軟員工透露，微軟已開發工具包，能將 CUDA 程式碼轉換為 ROCm 相容版本，進而在 AMD GPU 上運行。

打破 CUDA 的統治地位並不容易，因為其軟體生態系統在 AI 產業中幾乎無處不在，包括中國市場亦是如此。

外媒認為，微軟所提及的工具包，可能採用了市場上已有的轉換方式。例如，透過「執行相容層」可將 CUDA API 呼叫轉換為 ROCm，而不需要完整重寫程式碼。

其中，ZLUDA 工具即是一例，它能攔截 CUDA 呼叫並將其轉換為 ROCm，且無需重新編譯整個程式。

微軟員工表示：「我們已經開發了一些工具套件，能協助將 CUDA 模型轉換為 ROCm，讓它們可以在 AMD GPU 上運行，例如 300X 系列。」

該員工補充說：「我們也收到許多關於 AMD 400X 以及 450X 的相關詢問。目前我們正與 AMD 合作，評估如何在這些平台上達到最大化效益。」

然而，由於 ROCm 軟體堆疊仍相對不成熟，某些 CUDA 的 API 呼叫或程式碼在 AMD 軟體中找不到對應，可能導致效能大幅下降，對大型資料中心而言風險甚高。

另一種可能的工具包版本，則可能是整合 Azure 雲端的端對端遷移工具，針對 AMD 與輝達實例提供支援，但其在大規模轉換下仍存在挑戰，目前微軟開發的工具包看來僅限於特定用途。