AI算力進入推論時代 SRAM架構為何會成為焦點？

2026年09月10日（優分析／產業數據中心報導）⸺ 過去兩年，市場競相採購GPU，核心目標是用更多算力訓練更大的模型；但進入2026年，隨著大型模型開始大規模商業化、AI Agent興起，算力需求正逐漸從訓練模型本身，轉向支撐模型被每天大量呼叫。這個轉變表面上只是AI從訓練走向推論，實際上正在改寫晶片的設計方向。

原因在於，訓練與推論要解決的問題不同。訓練階段的首要任務是提高平行運算能力，GPU的龐大算力與HBM的高容量、高頻寬因此格外重要；但到了推論階段，尤其AI Agent開始大量呼叫模型後，晶片除了要算得快，還必須反覆、快速取得資料。

SRAM的存取時間可低至約10奈秒，遠快於外部記憶體。若晶片能把常用資料直接留在SRAM，運算核心就不需要等待資料從較遠的記憶體傳來。但SRAM速度快的代價是占用大量晶片面積，容量遠低於DRAM與HBM，這也是SRAM過去很少被當成大型模型主要記憶體的原因。

HBM勝在容量大，SRAM勝在存取快，兩者互補而非取代。真正的問題不是SRAM會不會取代HBM，而是晶片設計者能不能把兩種記憶體放在最適合的位置——這也是AI推論晶片設計出現的另一條路線：與其不斷加大外部記憶體頻寬，不如把更多高速記憶體直接搬進晶片。

這條路線在2026年獲得市場高度重視的關鍵轉折，來自輝達(NVIDIA，NVDA-US)以200億美元授權Groq技術，將大量SRAM、靜態排程與極低延遲的LPU架構納入自身推論平台，並與Rubin GPU組成混合運算架構。Groq的LPU正是這條路線最具代表性的案例：Groq 3 LPU整合最高500MB SRAM，容量遠低於Rubin GPU最高288GB HBM4，但頻寬可達150TB/s，遠高於HBM4約22TB/s。

大型語言模型推論可拆成Prefill與Decode兩階段：前者處理大量輸入內容，考驗運算能力與記憶體容量；後者逐步產生Token，對延遲與資料存取速度更敏感。NVIDIA透過Dynamo推論調度架構，把高算力、高KV Cache需求的工作交給Vera Rubin平台，低延遲的Token生成工作則交由Groq LPU處理，具體呈現出依工作類型分配運算與記憶體資源的設計邏輯。

這項架構調整透露的訊號，比單純增加SRAM容量更重要：AI晶片的競爭主軸，正從比誰的算力最高，轉向比誰能針對不同推論工作，把運算、記憶體與資料搬移安排得更有效率。SRAM之所以在2026年重新站上舞台，根本原因也在這裡——當AI進入大規模推論時代，資料能不能更快送到運算核心，開始與運算核心本身有多快同樣重要。

台灣供應鏈誰受惠？從SRAM IP一路擴散到修復、安全與封測

台灣供應鏈的受惠範圍，也隨著這個變化從SRAM本身向外擴散。SRAM容量愈大，晶片設計者首先需要更多先進製程SRAM IP；記憶體單元增加後，良率與故障修復的重要性跟著提高，帶動Memory Repair、OTP與測試IP需求；當GPU、LPU及各類ASIC進一步組成異質運算平台，硬體身分驗證與Root of Trust需求也會增加；等到晶片真正進入量產，封裝與測試業者才承接後段需求。

M31(6643-TW)提供SRAM編譯器（Compiler），可依不同製程、容量、速度與功耗需求產生SRAM IP。M31指出，AI加速器對高效能、低功耗SRAM需求增加，正在擴大先進SRAM IP市場，公司也持續配合先進製程開發相關產品。

力旺電子(3529-TW)受惠SRAM容量增加後衍生的修復需求。數百MB SRAM整合進大型AI晶片後，記憶體單元愈多，良率管理愈重要，NeoFuse OTP可用來儲存記憶體修復資訊；GPU、LPU與ASIC組成異質運算平台後，硬體安全需求提高，也有利NeoPUF等Root of Trust安全IP滲透。

南茂科技(8150-TW)瞄準更後段的封裝測試商機，2026年第2季記憶體產品占營收51.0%，其中DRAM／SRAM占21.5%、Flash占29.5%，記憶體營收年增46.7%，記憶體封測產能滿載，並持續增加DDR5、DDR6與高階測試能力。雖然目前AI SRAM的貢獻還不明顯。但只要大容量SRAM逐漸成為AI推論晶片的重要架構，需求最終從晶片設計端走向量產端，南茂仍可望透過既有的高階記憶體與測試產能調配，間接承接這波後段增量。

※ 本文經「優分析」授權轉載，原文出處:原文連結
※ 免責聲明：文中所提的個股、基金、期貨商品內容僅供參考，並非投資建議，投資人應獨立判斷，審慎評估風險。