跳出HBM框架!SK海力士展示下一代AI記憶體搶推理商機 押注CXL+HBF生態

Tag
SK海力士周五(16日)表示,已在美國加州舉行的OCP全球峰會2026上展示新一代AI記憶體技術,目標是把AI基礎建設的擴展邊界從傳統HBM向外延伸。該峰會由開放運算計畫基金會主辦,聚集全球工程師與資料中心業者。
SK海力士展區分為兩部分:前區「記憶體展區」陳列HBM等旗艦產品;後區「系統演示區」規模更大,聚焦下一代伺服器生態所需的記憶體方案。
SK海力士高級副總裁Kim Ho-sik主講重點技術MARS(Memory-Centric AI Rack-Scale System),也就是「以記憶體為中心的機架級系統」。
MARS採解耦式架構,把運算與記憶體資源拆開,形成可共享的機架規模記憶體池,解決過去單台伺服器閒置記憶體無法調度、為擴記憶體得加買整台節點的問題,有望降低GPU過度配置與總持有成本。
另一項核心是「高頻寬快閃記憶體」(HBF)。它不像HBM走DRAM路線,而是基於NAND堆疊,定位在HBM與SSD之間,頻寬不及HBM,但容量可大幅拉高,適合放模型權重、長上下文KV快取等「大但要讀」的推理資料。
SK海力士同場發表基於CXL 3.2的第二代256GB記憶體產品。CXL 3.2強化記憶體池化、動態分配與安全管理的支援,新模組較上一代頻寬提升兩倍以上、能效改善約30%。
業界人士解讀,SK海力士並非要讓HBF取代HBM,而是在AI推理需求爆發下補出「大容量層」;HBM仍負責高速運算,HBF與CXL補位容量與擴充彈性。隨著智能體與多輪對話推高記憶體壓力,HBM之外的新架構正成為下一階段競爭焦點。