報告指商湯(20)大裝置實現大模型推理效率提升600%

Sullivan聯合頭豹研究院發布的《2023年中國AI開發平台市場報告》指出,商湯科技在市場綜合競爭表現位列國內第一。報告亦稱,SenseCore商湯大裝置擁有近30000張GPU對外提供大模型訓練與推理服務,實現了大模型推理效率提升600%,大模型增量訓練降低90%,單個智算中心超過6800P算力規模。

　　報告亦稱,大裝置搭建了完善的AI原生基礎設施,包括算力基礎架構、大模型生產平台、模型即服務,並輔以AI專家服務和數據服務,助推動相關技術的應用發展。(rh)