AI ASIC崛起改寫HBM市場版圖 研調:所需位元5年暴增35倍
圖為HBM示意圖。(美光提供)

AI ASIC崛起改寫HBM市場版圖 研調:所需位元5年暴增35倍

根據 Counterpoint Research HPC Service 最新發布的《資料中心 AI 伺服器運算 ASIC 出貨預測與追蹤》,全球 AI 伺服器運算 ASIC 對高頻寬記憶體(HBM)的位元需求,預計將在 2024 至 2028 年間成長 35 倍。
Counterpoint Research表示,AI ASIC對於高頻寬記憶體的位元需求,將在5年內成長35倍,此一爆發性成長主要來自專有加速器廣泛採用高密度記憶體架構。主要需求動能包括 Google 為支援 Gemini 生態系而大幅擴展 TPU 基礎架構、AWS Trainium 叢集持續部署,以及 Meta MTIA 與 Microsoft Maia 的導入升溫。儘管超大規模雲端服務商持續積極擴展自研晶片產品組合,但整體產業發展方向顯示,HBM 已成為支撐下一代 AI 工作負載的關鍵技術,同時也是主要資本支出的重點。
此趨勢的一大重點,是 AI 加速器整體可服務市場(TAM)出現結構性變化,其中客製化 ASIC 正快速提升在全球 HBM 消耗中的占比。值得注意的是,這波需求成長主要來自單顆晶片層級記憶體密度的大幅提升。這種每顆晶片密度的指數級增長,直接反映出下一代 AI 工作負載對運算能力的快速提升需求。隨著超大規模雲端服務商迅速導入兆級參數模型、多模型架構以及複雜的 Mixture-of-Experts(MoE)設計,需要更高的記憶體密度以將更龐大的資料集靠近運算核心,進而提升資料吞吐量、降低高階推論任務的延遲,並確保記憶體瓶頸不會拖累整體系統效能。
此一發展趨勢意味著,AI 伺服器運算 ASIC 將在整體 HBM 市場中占據愈來愈高的比重,使記憶體需求來源逐步從過去單一依賴商用 GPU 轉向更加多元。同時,ASIC 記憶體生態也正經歷明確的世代轉換。隨著雲端服務供應商優先考量最大頻寬能力與成熟的供應鏈體系,HBM3E 預計將占據主導地位,到 2028 年約占 ASIC HBM 位元需求結構的 56%。
針對 HBM3E 的市場占比配置,Counterpoint Research 研究專員 David Wu 表示:「HBM3E 已被證明是當前 AI 架構的最佳平衡點,可提供突破記憶體瓶頸所需的高頻寬與高密度,以支援大型參數模型。隨著 Samsung 良率逐步穩定並緩解先前的供應限制,各大雲端服務商正逐步將新一代 ASIC 標準化採用 HBM3E。Counterpoint Research預期這項廣泛採用將使 HBM3E 至少在 2028 年前維持過半的配置占比。」
Counterpoint Research 研究總監 MS Hwang 表示:「在 HBM3E 之前,HBM 多被視為標準化產品,各客戶之間差異有限。然而自 HBM4 開始,由於邏輯晶片將整合至 base die,並進一步發展至 HBM4E,市場將逐漸邁向客製化 HBM。客製化 HBM 的採用將持續增加,以推動 ASIC 的專用效能提升。這為記憶體供應商帶來重要機會,能透過將邏輯晶片設計成本反映在產品定價中,建立高價值業務,同時透過與客戶的深度合作形成更穩定的需求鎖定效應。」
談及先進封裝產能需求與發展動態,Counterpoint Research 資深分析師 Ashwath Rao 表示:「目前台積電仍是主要受益者,因為多數供應商仍採用其 CoWoS-S 與 CoWoS-L 解決方案。然而在台積電產能持續受限的情況下,Counterpoint Research觀察到 Google 以及其他多家產業重要業者,正評估採用 Intel 的 EMIB-T 技術以滿足下一代先進封裝需求。若該技術成功導入,將成為產業重要里程碑,協助市場降低對 TSMC 的依賴,並提供更具成本效率且支援更大封裝尺寸的可行替代方案。」
從供應商市佔角度來看,全球 HBM 市場仍將維持高度集中,SK Hynix 與 Samsung 在可預見的未來仍將保持主導地位。不過,市場內部的市佔分配正持續變化。Counterpoint Research預期 Samsung 將逐步擴大其市場版圖,並加速縮小與 SK Hynix 之間的差距。隨著 Samsung 成功克服過去的生產瓶頸,其良率穩定與產品效能提升,使其有機會在新一波 AI 基礎架構部署中積極重新取得更多配額。由於這並非零和競爭,Counterpoint Research同時也關注 Micron 在客製 AI 伺服器加速器市場中取得設計導入(design win)以及擴展 HBM 市場的能力。
針對 AI 雲端服務供應商(CSP)需求集中度,Counterpoint Research 研究總監 Gunnar Thoresen 表示:「Google 仍是客製化晶片市場的主要驅動者。根據Counterpoint Research最新的供應鏈調查,Counterpoint Research對 Google TPU 生態系在 2026 至 2027 年期間的部署成長維持高度樂觀。因此,Counterpoint Research已上修未來幾代 TPU 的出貨預測。這項積極的基礎架構擴張將直接帶動 Google 對 HBM 的需求大幅提升,並進一步鞏固其作為全球先進記憶體產能核心客戶的地位。」

延伸閱讀


promote-topic 關閉按鈕