HBM4 成本壓力升溫！NVIDIA 傳調整 Vera Rubin 記憶體配置，降低 AI 伺服器 BOM 成本

【晶片觀測站／AI 基礎設施】AI 運算需求快速成長，不僅帶動 GPU 效能持續提升，也讓高頻寬記憶體（HBM）逐漸成為 AI 伺服器成本中最重要的組成之一。隨著下一代 HBM4 即將進入量產世代，其價格與供應能力正受到市場高度關注。

根據 GF Securities 最新發布的產業分析，NVIDIA 正重新調整下一代 Vera Rubin NVL72 AI 系統的記憶體配置，希望在維持 AI 運算效能的同時，降低整體系統 BOM（Bill of Materials，物料成本）。

分析指出，市場原先估計，一套 Vera Rubin NVL72 AI 機櫃整體成本約為 910 萬美元，而其中 HBM4 已成為推升成本的重要因素。GF Securities 預估，到 2027 年 HBM4 平均價格可能上升至每 GB 約 53 美元，使記憶體成本占比持續提高。

由於 HBM 屬於 AI GPU 不可或缺的核心元件，NVIDIA 並未選擇削減 GPU 端記憶體容量，而是將成本優化重點放在 CPU 端記憶體架構。

報告認為，Vera Rubin 平台採用的 SOCAMM（Small Outline Compression Attached Memory Module）容量，預計將由原本規劃的 192GB 調整至 96GB，容量減少一半。同時，CPU 系統記憶體總容量也可能由原先約 54 至 55TB，下修至約 28TB，以降低整體硬體成本。

值得注意的是，GPU 端的 HBM4 配置則預計維持不變，仍將搭載約 20.7TB 高頻寬記憶體。這顯示 NVIDIA 仍將 AI 訓練與推論效能視為最優先考量，不希望因削減 GPU 記憶體而影響大型語言模型（LLM）與生成式 AI 工作負載表現。

GF Securities 估算，在新的配置下，LPDDR5X 記憶體成本可望由原先約 120 萬美元降至約 58.6 萬美元；若後續產品進一步精簡容量，甚至可能降至約 29.3 萬美元，為整體系統帶來相當可觀的成本節省。

分析同時指出，若維持原先設計，Vera Rubin VR200 系統的整體記憶體成本可能高達約 210 萬美元，占整體 BOM 約 29%。相較於市場普遍認為較合理的 20% 左右，占比已明顯偏高，因此 NVIDIA 必須透過重新配置 CPU 記憶體容量來改善成本結構。

近年 AI 基礎設施的競爭重點，已逐漸由 GPU 晶片本身延伸至整體系統設計。除了 GPU 效能之外，HBM、LPDDR5X、高速互連、散熱與電源系統等，都開始成為影響 AI 伺服器價格與供應能力的重要因素。

市場普遍認為，未來幾年 HBM4 供應仍將維持吃緊，高容量、高頻寬記憶體不僅將影響 NVIDIA，也將牽動 AMD、Google、Microsoft、Meta 等大型 AI 基礎設施建置計畫，以及 SK hynix、Samsung Electronics、美光（Micron）等記憶體供應商的產能布局。

若 GF Securities 的分析最終獲 NVIDIA 採用，也代表 AI 伺服器的產品設計正逐漸由『追求最高規格』轉向『效能與成本最佳平衡』。未來市場除了持續關注 GPU 效能之外，HBM4 價格、記憶體供應能力、系統 BOM 成本以及 Vera Rubin 最終產品規格，都將成為觀察 AI 基礎設施市場的重要指標。