menu-icon
anue logo
鉅樂部鉅亨號鉅亨買幣
search icon
台股

〈AWS雲端年會〉推出第二代AI訓練晶片 運算速度提升4倍

鉅亨網記者魏志豪 美國拉斯維加斯 2023-11-29 01:34

news-cover-image
AWS執行長Adam Selipsky宣布推出第二代AI訓練晶片Trainium 2。(鉅亨網記者魏志豪攝)

亞馬遜 (AMZN-US) 旗下 Amazon Web Services(AWS) 本周舉辦 re:Invent 年度大會,執行長 Adam Selipsky 今 (28) 日宣布推出第二代 AI 訓練晶片 Trainium 2,能夠以更低的成本、更低的能源消耗加速生成式 AI 訓練,與上代相比,運算速度提升 4 倍。

Adam Selipsky 指出,生成式 AI 在海量資料中進行訓練,且須以數千台電腦同時運算數周,不過,客戶希望能夠以更低的成本、更快地訓練模型,並減少模型運算時的工作負載,降低能源消耗,因此公司推出新一代客製化晶片 (ASIC)。

AWS Trainium 2 延續上一代深度機器學習 (ML) 架構,協助客戶使用現有知識去訓練模型,目前一共提供 32 個模型給客戶,用於生成文字、圖片、程式碼、問題答覆等。

另外,AWS 此次也推出新一代 Arm 架構處理器 Graviton 4,不僅處理器核心多出 50%,記憶體頻寬也增加 75%,運算、存儲速度分別提升 30%、40%,將在 Amazon EC2 R8g 上執行,用於大數據分析,預計未來幾個月將上市。






Empty