智能端

09-24歐亞股

Arm警告：AI推理每天產生百億Token 記憶體正成為邊緣運算最大瓶頸

Arm(安謀)全球儲存業務負責人John Xavier Lionel周三(23日)在GMIF 2026全球記憶體產業創新高峰會上拋出重磅觀點：隨著生成式AI從雲端向終端規模落地，記憶體已不再是配角，而是直接決定AI系統能力上限的關鍵變數。Lionel指出，AI推理的解碼(Decode)階段需要持續、高頻存取KV Cache，這意味著記憶體的容量、頻寬與資料傳輸效率，將直接決定係統響應速度與吞吐量。