4. 除了SSD，BlueField-4如何推升HBM與LPDDR的成長動能？

BlueField-4 透過驅動 NVIDIA 的推論情境記憶儲存（ICMS）架構，重新定義了 AI 推論的記憶體階層。除了 SSD，其核心在於優化「KV 快取」的調度。當 AI 模型邁向數兆參數時，HBM 作為主動快取層，其頻寬需求隨之暴增；而為了突破 HBM 的容量限制，BlueField-4 將部分快取卸載至系統 DRAM（如 LPDDR），實現資料在不同層級間的高效流動。這種「卸載機制」不僅提升了 5 倍的處理速度與能效，更讓 LPDDR 從傳統行動端跨入 AI 基礎設施，與 HBM 共同支撐起代理式 AI 所需的高併發與低延遲環境，帶動記憶體產業進入結構性成長。