鉅亨網編譯莊閔棻
韓國科學技術院（KAIST）電機工程系教授金正浩近日接受專訪，針對 HBM 技術發展、AI 算力格局與未來半導體架構提出系統性見解，其核心論點「AI 的本質是記憶體，而不是 GPU，」在科技與投資圈引發廣泛討論。
金正浩早在 2010 年代初期便與 SK 海力士合作參與第一代 HBM 開發，此後主導了一系列底層架構研究，被業界尊稱為「HBM 之父」。
金正浩在訪談中拋出一個令人震驚的數字：即便部署了 100 萬台 GPU，真正在運算的時間恐怕只有 10%。
他解釋，每當 ChatGPT 輸出一個詞，系統就必須從 HBM 讀取資料、完成運算、再寫回記憶體，「讀寫幾乎佔掉了全部時間，GPU 就在旁邊閒等。」即使透過演算法優化，GPU 使用率也很難突破三成。
而這，正是他多年來反覆主張的核心論點：「AI 等於記憶體。」
他對輝達 (NVDA-US) 現狀的評估也毫不保留。金正浩指出，輝達執行長黃仁勳近期頻繁訪韓、密集會見各方人士，「這麼多會面背後，說明他並不安心。」
他直言，GPU 的技術成長已近乎停滯，「AI 電腦的進化，掌握在記憶體手裡。」
他進一步解釋，GPU 要提升效能只能擴大晶片面積、堆疊更多運算單元，但 GPU 發熱量大，背面必須加裝散熱裝置，因此無法像記憶體那樣垂直堆疊，使「GPU 陷入死局。」
相較於過去以模型訓練為核心的階段，AI 產業正逐步邁入推論時代，記憶體的重要性也隨之快速提升。
金正浩表示，在推論運算中，真正影響 AI 表現的關鍵，在於系統一次能處理與載入多少資料，而這項能力最終取決於記憶體技術。
金正浩將 HBM 的核心價值歸納為兩個面向。
容量方面，隨著情境工程、多模態輸入與 AI 代理（AI Agent）的興起，記憶體需求正以每年翻倍的速度增長，「10 年就是 1000 倍」。
傳統靠縮小電晶體來擴充容量的路線，如今已逼近量子力學的物理極限，垂直堆疊成為唯一出路。
頻寬方面，他以公路作比喻：「傳統記憶體若是 8 線道高速公路，HBM 是 1024 線道，現在已達 2048 線道，幾年後可能達到 100 萬線道。」
換句話說，唯有透過大規模並行通道同步傳輸資料，才能跟上 AI 運算的速度需求。
HBM 解決了速度問題，但容量仍有天花板。金正浩進一步闡述他認為的下一條技術路線 HBF（High Bandwidth Flash，高頻寬快閃記憶體），也就是將 NAND 快閃記憶體比照 HBM 的方式垂直堆疊。
DRAM 速度快但容量有限；NAND 容量大、資料可長期保存，速度雖稍慢，但在推論場景中已足以應付「冷資料」的儲存需求。
金正浩預判，未來 HBM 與 HBF 將形成共存格局，「就像百貨公司周圍有複式公寓、一般住宅，各種形態的 HBM、HBF 組合在一起，構成複合體，向 GPU 供給資料。」
他明確預言：「現在是 HBM 的時代，但 10 年後，NAND 快閃記憶體與 HBF 的市場需求將超越 HBM。三星與 SK 海力士必須為 HBF 時代做好準備。」
根據金正浩，目前投入 HBF 開發的企業包括 SK 海力士、SanDisk (SNDKV-US) 、三星電子，以及日本的鎧俠（Kioxia）。
值得注意的是，鎧俠市值近期已超越豐田汽車，躍居日本股市第一。
金正浩還提出一個更尖端的構想 HBS（High Bandwidth SRAM）。
靜態隨機存取記憶體（SRAM）的速度比 DRAM 快約 1000 倍，但密度低、成本高，傳統上只用於晶片內的小容量快取。
他的構想是，將整片 12 吋晶圓全數做成 SRAM，再垂直堆疊 12 至 16 層，容量即可從 100GB 擴展至 1600GB。
金正浩描繪的終極 AI 晶片形態，猶如一棟「100 層 3D 大樓」：HBM、HBF、HBS 各自構成多層建築，GPU 置於頂層負責散熱，「這就是未來 AI 電腦不可避免的 3D 半導體架構。」
他同時坦言，最大的工程挑戰不在運算，而在供電與散熱。
金正浩指出：「要為 GPU 和堆疊記憶體提供數千安培的電，電力供應網路的設計將是最困難的技術，將成為企業間真正的核心競爭力。」
金正浩也特別點出 HBM4 帶來的產業結構轉變。過去，記憶體是標準化商品，買方主導定價，庫存風險由廠商承擔，這正是「記憶體週期」的本質。
但從 HBM4 開始，由於需要針對輝達、Google(GOOGL-US) 、超微半導體 (AMD-US) 等客戶的加速器架構量身設計，記憶體廠商必須在研發之初就取得客戶的採購承諾，才會啟動開發，也就是所謂的「長期協議（LTA）」。
金正浩說：「AI 企業太需要高效能 HBM 了，所以他們排隊上門。供應方開始決定價格，這是典範的轉移。」
他預期，未來 HBM 晶片內將整合通訊功能，實現記憶體之間的直接溝通，進一步強化記憶體廠商在整個 AI 供應鏈中的系統性地位。
金正浩反覆強調，全球能同時量產 DRAM（HBM）與 NAND 快閃記憶體（HBF）的企業，目前只有三星電子與 SK 海力士兩家。
他指出：「Sandisk 和鎧俠雖然股價飆漲，但只能做 HBF，做不了 HBM。三星和 SK 海力士擁有引領未來最強大的工具。」
對於外界預測兩家公司今年合計營業利潤可達 500 兆至 600 兆韓元，金正浩直接回應：「是真的。」
不過，他也指出競爭壓力真實存在，美光科技 (MU-US) 、Sandisk 也都獲得來自輝達和 Google 的訂單。
金正浩預測，AI PC 要真正實現個人 AI 運算，單機售價恐達 1000 萬韓元，其中記憶體將是最主要的成本。
此外，AI 智慧型手機售價中，記憶體佔比同樣驚人。300 萬至 500 萬韓元的手機售價中，將有 200 萬至 300 萬韓元是記憶體的價格。
展望更長遠的未來，他認為隨著 AI 代理與具身 AI（Physical AI）的到來，記憶體使用量將比現在高出約 1000 倍。
金正浩表示：「AI 代理 24 小時不間斷運作，不像人類還需要睡眠，工作量暴增，記憶體需求自然跟著爆炸。那時候不是 HBM，而是需要『超級 HBM』的時代了。」
金正浩於 1993 年取得博士學位，研究方向為飛秒（femtosecond）級超快電訊號量測，其指導教授數年前榮獲諾貝爾物理學獎。
他於 1994 年加入三星電子記憶體事業部，1996 年返回 KAIST，此後深耕記憶體與 HBM 基礎研究近 10 年，才促成商業產品的誕生。
他在訪談末尾笑稱，當初研發 HBM 時，想的是讓電視畫面更生動，完全沒料到會成為 AI 時代的核心基礎設施，「那時候不知道，這也可以說是運氣。」
上一篇
下一篇
