menu-icon
anue logo
鉅樂部鉅亨號鉅亨買幣
search icon
Empty
台股

〈AWS雲端年會〉擴大與輝達合作 為首家提供GH200雲端供應商

鉅亨網記者魏志豪 美國拉斯維加斯 2023-11-29 03:57

news-cover-image
AWS擴大與輝達合作 為首家提供GH200雲端供應商。(鉅亨網記者魏志豪攝)

亞馬遜 (AMZN-US) 旗下 Amazon Web Services(AWS) 本周舉辦 re:Invent 年度大會,執行長 Adam Selipsky 今 (28) 日宣布擴大與輝達 (NVDA-US) 策略合作,AWS 將成為第一家提供 GH200 的雲端供應商,支援客戶生成式 AI 應用。

輝達執行長黃仁勳今日現身站台支持,除了宣布將 GH200 導入 AWS 外,也宣布 DGX Cloud 服務將在 AWS 平台上運行,將加速生成式 AI 開發,並訓練超過 1 兆個參數的大型語言模型 (LLM)。

Adam Selipsky 表示,AWS 是首家將 GPU 導入雲端的供應商,與輝達合作超過 13 年,今年為滿足高效能運算 (HPC)、機器學習 (ML) 與生成式 AI 等應用,將提供更廣泛的輝達 GPU 解決方案,進一步將超級晶片 GH200 導入雲端。

Adam Selipsky 說,此次將 32 顆 GH200 透過 NVLink 與 NVSwitch 技術相互連接,並在自家 Amazon EC2 運行,再結合 Nitro 虛擬化功能與超大規模叢集 (UltraClusters),讓 AWS 成為 GPU 運算的最佳環境,預計最多可以擴展到數千個 GH200。

此外,AWS 也與輝達合作,推出首個 GH200 組合而成的 DGX Cloud 超級電腦,為開發者提供單一執行個體中最多的共用記憶體,並提供客戶訓練參數超過 1 兆個的大型語言模型。

同時,輝達也宣佈在 AWS 平台上推出 AI 軟體 NeMo Retriever,便於客戶開發生成式 AI,如創造高精準度的聊天機器人,以及運用加速語意檢索技術的歸納工具,目前已獲製藥公司採用。

左至右為AWS執行長、輝達執行長黃仁勳。(業者提供)
左至右為 AWS 執行長 Adam Selipsky、輝達執行長黃仁勳。(業者提供)

 






Empty
Empty
Empty