【AI熱潮】騰訊雲發布面向大模型訓練超強算力集群,性能升3倍
經濟通新聞 2023-04-14 12:16
《經濟通通訊社14日專訊》騰訊(00700)在微信公眾號宣布,騰訊雲發布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,整體性能比過去提升了3倍。它搭載了NVIDIA H800 Tensor Core GPU,能夠提供高性能、高帶寬、低延遲的智算能力支撐。
騰訊稱,隨著算力需求的陡增,自己採購GPU的價格昂貴,甚至有錢也買不到,給創業企業、中小企業帶來很大壓力。新一代HCC集群,能夠幫助在雲上訓練大模型,希望緩解他們的壓力。
騰訊有訓練框架AngelPTM,對內支持了騰訊混元大模型的訓練,也已通過騰訊雲對外提供服務。它在去年10月,完成了首個萬億參數大模型訓練,並將訓練時間縮短80%。
TI平台(一站式機器學習平台)擁有大模型能力和工具箱,能幫助企業根據具體場景,進行精調訓練,提升生產效率,快速創建和部署AI應用。
*自研芯片已經量產*
騰訊並指,自研芯片已經量產,包括用於AI推理的紫霄芯片。它採用自研存算架構和自研加速模塊,可以提供高達3倍的計算加速性能和超過45%的整體成本節省。
總體而言,正以新一代HCC為標誌,基於自研芯片、自研服務器等方式,軟硬一體,打造面向AIGC的高性能智算網絡,持續加速全社會雲上創新。(ct)
- 投資10至18歲孩子的最佳方案
- 掌握全球財經資訊點我下載APP
文章標籤
上一篇
下一篇