記憶體容量與頻寬限制,而非GPU算力,將決定人工智慧能擴展到何種程度。
記憶體容量與頻寬限制,而非GPU算力,將決定人工智慧能擴展到何種程度。

記憶體容量與頻寬限制,而非GPU算力,將決定人工智慧能擴展到何種程度。
摩根士丹利警告,人工智慧產業正在撞上「記憶體牆」,預測雲端儲存支出將在2030年達到4180億美元,容量限制、頻寬瓶頸與成本攀升恐將壓制AI的擴張空間。
「GPU決定AI跑多快,但記憶體系統決定AI能走多遠,」摩根士丹利全球科技團隊在報告中寫道,並點出六大創新方向以突破瓶頸。
該銀行估計,儲存相關元件目前佔CPU伺服器物料清單成本的73%,而DRAM每GB價格已逼近近三十年高點。DDR5單通道頻寬預計從2024年到2026年僅成長14%,從44.8 GB/s增至51.2 GB/s;同一期間,每月AI推論Token生成量預計將暴增超過320倍,從約10兆個Token增至3200兆個Token。
報告指出,AI相關投資正從純GPU題材,轉向更廣泛的記憶體與儲存生態系。摩根士丹利預測,不含HBM的新記憶體技術總體潛在市場將從2025年的12億美元,擴大到2030年的230億美元;若納入高頻寬記憶體,則上看2760億美元。雲端資本支出中儲存所佔比率,預計從2023年的12%上升至2027年的40%。
六大創新方向
摩根士丹利提出的架構中,先進製程技術、儲存架構創新、先進封裝、周邊互連晶片、記憶體內運算以及新材料,是六個亟需突破的領域。在先進製程方面,DRAM已進入1-gamma節點世代,三星、SK海力士與美光均加大量產力度,但線寬縮減幅度已從上一代降至10%以下,顯示平面DRAM正面臨物理極限。
在先進封裝方面,HBM路線圖正朝HBM4與HBM4E邁進,其中16層堆疊的HBM4E預計在2027年進入量產,單堆疊頻寬可達1.5 TB/s至2 TB/s以上。SanDisk的高頻寬快閃記憶體,採用矽穿孔技術連接多個3D NAND陣列,可提供高達4 TB的記憶體容量——為HBM的8至16倍——首批樣品預計於2026年下半年推出。晶圓對晶圓堆疊技術預計從2025年的1000萬美元,成長至2030年的98億美元,年複合成長率高達322%。
供應鏈緊縮
記憶體短缺的結構性本質,已反映在整個半導體供應鏈中。根據TrendForce數據,高頻寬記憶體目前約佔總DRAM晶圓產能的23%,高於2025年的約19%以及兩年前的個位數百分比。由於每生產1 GB的HBM,會從製造產能中移除約3 GB的傳統DRAM供應,AI建設一方面創造記憶體需求,另一方面卻也同時在壓縮自身的記憶體供應。
瓶頸不僅止於DRAM。伺服器CPU供應也趨緊,供應商同時在3奈米與5奈米節點上生產處理器,先進節點良率低於預期更讓問題雪上加霜。根據供應鏈顧問公司SHI Insights的數據,企業級伺服器大量DRAM訂單的交貨時間已拉長至超過40週,CPU採購 backlog 已達約22週。
隨著晶片製造商調整策略迎接推論時代,競爭格局也在轉變。Nvidia已將Groq的語言處理單元整合至其CUDA生態系統,以降低推論延遲;Cerebras Systems則開發了晶圓級晶片,號稱速度比Nvidia的LPU快6倍、比其GPU快15倍。超微半導體收購了記憶體優化軟體公司MEXT,正利用其小晶片設計提供具成本效益的推論解決方案,隨著資料中心中GPU與CPU的比例預計將從約8比1,隨代理型AI崛起而縮減至約1比1。
對投資人而言,下一階段AI基礎設施支出的流向,將越來越多地轉向記憶體與儲存公司。摩根士丹利估計,僅代理型AI一項,到2030年就可能貢獻全球DRAM需求的26%至77%。美光科技公布的會計年度第三季營收為415億美元,年增346%,並已承諾在2035年前在美國投入超過2500億美元以擴大國內DRAM產能。SK海力士執行長則形容2027年可能是「從供應角度來看,產業史上最糟的一年」,而英特爾執行長表示,在2028年之前不會看到有意義的緩解。
本文僅供資訊參考,不構成投資建議。