TechNews Logo

5. 輝達導入SOCAMM 2,對未來AI叢集架構有何戰略意義?

Answer | Powered by TechNews Smart AI

輝達導入 SOCAMM 2 標誌著 AI 叢集從「追求極致頻寬」轉向「頻寬、容量與成本平衡」的戰略轉型。相較於昂貴且難以擴充的 HBM,SOCAMM 2 透過模組化設計提供 TB 級容量,能有效支撐 Agentic AI 長時間維持上下文的需求。這不僅解決了 HBM 供應緊縮的痛點,更讓輝達能透過統一記憶體規格,強化對 AI 機櫃架構的主導權。對資料中心而言,這種可拆卸設計提升了維護彈性並降低功耗,是未來 AI 基礎設施走向標準化與規模化的關鍵環節。

back_icon 解鎖更多問題

參考資料