menu-icon
anue logo
熱門時事鉅亨號鉅亨買幣
search icon

A股港股

【AI熱潮】騰訊雲發布面向大模型訓練超強算力集群,性能升3倍

經濟通新聞 2023-04-14 12:16


  《經濟通通訊社14日專訊》騰訊(00700)在微信公眾號宣布,騰訊雲發布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,整體性能比過去提升了3倍。它搭載了NVIDIA H800 Tensor Core GPU,能夠提供高性能、高帶寬、低延遲的智算能力支撐。

  騰訊稱,隨著算力需求的陡增,自己採購GPU的價格昂貴,甚至有錢也買不到,給創業企業、中小企業帶來很大壓力。新一代HCC集群,能夠幫助在雲上訓練大模型,希望緩解他們的壓力。

  騰訊有訓練框架AngelPTM,對內支持了騰訊混元大模型的訓練,也已通過騰訊雲對外提供服務。它在去年10月,完成了首個萬億參數大模型訓練,並將訓練時間縮短80%。

  TI平台(一站式機器學習平台)擁有大模型能力和工具箱,能幫助企業根據具體場景,進行精調訓練,提升生產效率,快速創建和部署AI應用。


 

*自研芯片已經量產*

 

  騰訊並指,自研芯片已經量產,包括用於AI推理的紫霄芯片。它採用自研存算架構和自研加速模塊,可以提供高達3倍的計算加速性能和超過45%的整體成本節省。

  總體而言,正以新一代HCC為標誌,基於自研芯片、自研服務器等方式,軟硬一體,打造面向AIGC的高性能智算網絡,持續加速全社會雲上創新。(ct)

文章標籤


Empty