韓國記憶體晶片巨頭 SK 海力士 10 日將以美國存託憑證（ADR）形式在那斯達克掛牌上市，股票代號 SKHY，募資規模約 282 億美元，成為美國史上規模最大的海外企業 IPO 案。
同時即使記憶體類股近幾個交易日出現大幅回檔，今年股價漲幅依舊驚人，SanDisk漲533.79%、美光漲212.20%、三星漲129.18%，鎧俠控股（Kioxia Holdings）市值6月12日超車豐田，躍居日本第一，漲幅高達619.34%。
記憶體業者能吸引那麼多資金的原因無他，就是AI。相較於過去以模型訓練為核心的階段，AI產業正逐步邁入推論時代，記憶體的重要性也快速升高。
近日業界尊稱為「HBM之父」的韓國科學技術院（KAIST）電機工程系教授金正浩（音譯）更語出驚人：AI的本質不是GPU，而是記憶體。
全球數百萬台部署在資料中心的GPU，實際運算時間只有10%。每當ChatGPT輸出一個詞，系統就必須從HBM讀取資料、完成運算、寫回記憶體。這個讀寫過程佔掉幾乎所有時間，GPU就在旁邊閒等，就算用演算法最佳化，GPU使用率也很難突破30%。換句話說，輝達賣給你的晶片，70%時間在打混。
金正浩批評輝達也毫不保留。他表示，近期輝達執行長黃仁勳頻繁訪韓、密集會見各方人士，正說明他很不安。
金正浩分析，GPU成長已近乎停滯，因為要提升效能，唯一路徑就是擴大晶片面積、堆疊更多運算單元。但GPU發熱量大，背面必須加散熱裝置，導致無法像記憶體那樣垂直堆疊，限制了GPU創新空間，將其困在物理上「熱管理的死胡同」裡。因此「AI運算的進化，掌握在記憶體手裡」。
推論場景真正影響AI表現的關鍵，在於系統能容納多少數據，這能力又取決於記憶體技術。
他預測：情境工程、多模態輸入、AI代理興起，記憶體需求每年翻倍，十年內將成長千倍。此外，頻寬也是關鍵。「傳統記憶體是八線道高速公路，HBM是1,024線道，現在已達2,048線道，幾年後可能達到百萬線道。」
他也點出未來的技術演進路線：從HBF（高頻寬快閃記憶體）到HBS（高頻寬SRAM），最終願景是「百層3D大樓」，並坦言，最大工程挑戰不是運算，而在供電與散熱。
更關鍵的是產業結構也在轉變。過去記憶體是標準化商品，買方主導定價。但從HBM4開始，記憶體廠商需要在研發初期就獲得輝達、Google、AMD等客戶採購承諾才會啟動開發。「這是典範的轉移，AI企業太需要高效能HBM了，所以他們排隊上門。供應方開始決定價格。」
他預測，未來HBM晶片將整合通訊功能，強化記憶體廠商的AI供應鏈地位。在他看來，SK海力士的282億美元規模IPO，反映的不只記憶體短缺，更代表記憶體廠商於AI時代的權力結構地位上升。
不過，最終這些預言是否會實現，還需要市場和技術發展檢驗。
- “Father of HBM" Makes Shocking Statement: AI’s Essence Is Memory, GPU Idle Rate Reaches 90%
- SK Hynix Trims Fundraising Target for U.S. Listing to $28 Billion
- Google 金融
（作者：黃苡宣；本文由《商業周刊》授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
