AMD 在6月15日的資料中心和 AI 技術首映活動上展示了 Instinct MI300X GPU,在會議上 AMD 並沒有提及該產品的功耗相關信息,但隨後 Hoang Anh Phu 發現了 Instinct MI300X 基於 OAM(OCP 加速器模組)的設計功耗高達 750W,一舉超越 NVIDIA Hopper H100 的 700W 成為目前功耗需求最高的 GPU。
AMD 的 Instinct MI300 系列包括 Instinct MI300A 和 MI300X 兩種。MI300A 包含 CPU 與 GPU,CPU 部分採用了三顆 Zen 4 CCD,共24核心,而 GPU 部分則為最先進的 CDNA3 架構,六顆 XCD 晶片,並配備 128GB 的 HBM3 記憶體,由 CPU 與 GPU 共享。
而 MI300X 則是把 CPU 也換成 GPU,是一個純 GPU 的加速模組,配備 192GB HBM3 記憶體,由於 GPU 模組比 CPU 更耗電,而且 HBM 數量也更多,所以一個 OAM 模組功耗就高達 750W,相比與上一代 CDNA2 架構的 MI250X 的 560W 提高了相當多。
最近幾年資料中心 GPU 的功耗增長相當明顯,NVIDIA H100 SXM GPU TDP 高達700W,而採用風冷的 PCI-E 版本也要 350W,基於 Ponte Vecchio GPU 的 Intel Max 1550 即使是 PCI-E 版本功率也要 600W。
來源
AMD 的 Instinct MI300 系列包括 Instinct MI300A 和 MI300X 兩種。MI300A 包含 CPU 與 GPU,CPU 部分採用了三顆 Zen 4 CCD,共24核心,而 GPU 部分則為最先進的 CDNA3 架構,六顆 XCD 晶片,並配備 128GB 的 HBM3 記憶體,由 CPU 與 GPU 共享。
而 MI300X 則是把 CPU 也換成 GPU,是一個純 GPU 的加速模組,配備 192GB HBM3 記憶體,由於 GPU 模組比 CPU 更耗電,而且 HBM 數量也更多,所以一個 OAM 模組功耗就高達 750W,相比與上一代 CDNA2 架構的 MI250X 的 560W 提高了相當多。
最近幾年資料中心 GPU 的功耗增長相當明顯,NVIDIA H100 SXM GPU TDP 高達700W,而採用風冷的 PCI-E 版本也要 350W,基於 Ponte Vecchio GPU 的 Intel Max 1550 即使是 PCI-E 版本功率也要 600W。
來源