美光 (MU-US) 今 (17) 日宣布，HBM3E 12 層堆疊 36GB 記憶體導入超微 (AMD-US) 最新推出 MI350 系列中，也是繼打入輝達 (NVDA-US) 後，再添一名大客戶。

美光強調，此次合作突顯能源效率和效能在訓練大型 AI 模型、提供高傳輸量推論，以及處理複雜的高效能運算工作負載，如資料處理和運算建模方面的關鍵作用，也是美光在 HBM 產業領導地位的另一重大里程碑，展現美光穩健的執行力和強大的客戶關係。

AMD Instinct MI350 系列 GPU 平台採用 CDNA 4 架構，整合 288GB 高頻寬 HBM3E 記憶體，可提供高達 8 TB/s 的頻寬，實現優異的吞吐量。憑藉龐大的記憶體容量，Instinct MI350 系列 GPU 可在一顆 GPU 上高效支援高達 5,200 億個參數的 AI 模型。

在完整平台配置中，AMD Instinct MI350 系列 GPU 可搭載高達 2.3TB 容量的 HBM3E 記憶體，並在 FP4 精度下實現高達 161 PFLOPS 的峰值理論效能，具備頂尖的能源效率和可擴充性，適合高密度 AI 工作負載。

美光補充，透過緊密整合的技術架構，與自家高能源效率 HBM3E 記憶體相輔相成，為大型語言模型訓練、推論和科學模擬任務提供卓越的傳輸效能，不僅有助資料中心順暢無礙的擴展，更能達成每瓦運算效能的極大化，與超微攜手合作，有效縮短 AI 解決方案的上市時間。

美光副總裁暨雲端記憶體產品事業群總經理 Praveen Vaidyanathan 表示，透過美光與超微的緊密合作和共同在工程技術開發的努力，最佳化 HBM3E 12 層堆疊 36GB 記憶體與 Instinct MI350 系列 GPU 和平台的相容性。美光 HBM3E 的產業領導地位和技術創新能為終端客戶提供更優異的總體擁有成本 (TCO) 效益，並為要求苛刻的 AI 系統實現高效能。

超微 Instinct 產品工程企業副總裁 Josh Friedrich 指出，美光 HBM3E 12 層堆疊 36GB 記憶體是促成 AMD Instinct MI350 系列加速器達到卓越效能與能源效率的關鍵助力，與美光持續合作推動低功耗、高頻寬記憶體的發展，協助客戶訓練更大的 AI 模型、加快推論速度並處理複雜的 HPC 工作負載。