加速資料中心工作負載
256GB高容量,延遲降低40% 驅動 AI 與 HPC 等記憶體密集型應用
256GB高容量,延遲降低40% 驅動 AI 與 HPC 等記憶體密集型應用
美光科技(Nasdaq:MU)今日宣佈其多重存取雙列直插式記憶體模組 (multiplexed rank dual inline memory module, MRDIMM) 開始送樣。MRDIMM 讓美光客戶得以滿足要求日益嚴苛的工作負載,充分發揮運算基礎架構的最大價值。針對記憶體需求高達每DIMM 插槽128GB以上的應用,美光 MRDIMM 的效能更勝目前的矽晶穿孔型 (TSV) RDIMM,實現最高頻寬、最大容量、最低延遲,以及更高的每瓦效能,加速記憶體密集型如虛擬化多租戶、HPC 和 AI 資料中心等的工作負載[1]。今日開始送樣的記憶體是美光MRDIMM 系列的第一代產品,與Intel® Xeon® 6處理器相容。
![micron_ddr5_mrdimm.jpg](https://www.coolaler.com.tw/image/news/24/7/micron_ddr5_mrdimm.jpg)
美光副總裁暨運算產品事業群總經理Praveen Vaidyanathan表示:「美光最新推出的創新主記憶體解決方案MRDIMM以更低的延遲提供業界迫切需要的高頻寬與大容量,有助在下一代伺服器平台上實現大規模AI推論和高效能運算(HPC)應用。MRDIMM顯著降低每項任務的功耗,同時延續了與RDIMM相同的可靠性、可用性和可維護性功能與介面,為客戶提供靈活擴充效能的解決方案。由於美光與業界緊密合作,因此新產品不僅能夠無縫整合到現有伺服器基礎架構中,更可順暢銜接未來運算平台。」
MRDIMM 技術採用DDR5 的物理與電氣標準,帶來更先進的記憶體,每核心的頻寬與容量雙雙提升,為未來運算系統做好準備,更滿足資料中心工作負載日益成長的需求。相較於RDIMM ,MRDIMM 具有以下優勢[2]:
- 記憶體有效頻寬提升多達 39%2
- 匯流排效率提高15% 以上2
- 延遲降低高達 40%[3]
英特爾副總裁暨Xeon 6資料中心產品管理總經理 Matt Langman 表示:「MRDIMM採用DDR5 介面和技術,能與現有的 Xeon 6 CPU 平台無縫相容,為客戶提供選擇彈性。MRDIMM 為客戶帶來更高頻寬、更低延遲,以及多種容量選擇,適用於 HPC、AI 及其他大量工作負載,這些工作負載一樣都能繼續運行在支援標準 DIMM的 Xeon 6 CPU 平台上。我們的客戶將受益於美光 MRDIMM 廣泛的產品組合,容量範圍從 32GB到 256GB一應俱全,提供標準與加高尺寸,這些產品將在 Intel Xeon 6 平台上進行驗證。」
聯想副總裁暨人工智慧與高效能運算部門總經理Scott Tease表示:「隨著處理器與GPU廠商提供的核心數量呈現指數級的增長,但平衡系統效能所需的記憶體頻寬卻並未同步提升,美光的MRDIMM將有助縮小頻寬差距,滿足記憶體密集型應用如AI推論、AI重新訓練,以及各類高效能運算的工作負載所需。我們與美光合作日益緊密,雙方都致力於為共同客戶提供平衡、高效能且永續的技術解決方案。」
美光 MRDIMM現已上市,並將於2024年下半年開始大量出貨。後續世代的MRDIMM將維持記憶體頻寬優勢,每通道頻寬較同代RDIMM提升多達45%[6]。欲進一步了解美光創新 MRDIMM,請瀏覽:美光 MRDIMM記憶體。
[1] 使用Intel 記憶體延遲檢查器 (MLC) 工具測試GNR-AP 平台,比較不同記憶體時脈下的 MRDIMM(實測值為 8800MT/s)和 TSV RDIMM(推估值為 6400MT/s)的唯讀頻寬數據。
[2] 使用 Intel 記憶體延遲檢查器 (MLC) 工具,比較 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 的實測數據。
[3] Stream Triad實測數據,比較128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s。
[4] 1U 伺服器機箱採用標準尺寸 (SFF) DIMM,與2U 伺服器機箱採用加高尺寸 (TFF) MRDIMM,比較兩者的DRAM最高溫度模擬值。
[5] 使用Intel 記憶體延遲檢查器 (MLC) 工具測試GNR-AP 平台在不同記憶體時脈下對MRDIMM(實測值為 8800MT/s)和 TSV RDIMM(目前世代產品推估值為 6400MT/s)的唯讀頻寬數據。
[6] 資料傳輸率提高幅度係比較MRDIMM 與RDIMM 的未來傳輸率估計值。