電子科技 NVIDIA 創下最新 AI 推論測試新佳績

NVIDIA Turing 架構 GPU 與 NVIDIA Jetson Xavier 在 MLPerf資料中心與邊緣 AI 推論效能測試創下速度最快的成績


NVIDIA (輝達) 今天宣布繼近期在最新的 AI 訓練測試中的佳績,最新資料中心與邊緣 AI 推論作業效能測試皆雙雙創下速度最快的成果。



MLPerf Inference 0.5 為業界首創獨立 AI 推論測試基準套件,其結果向外界展現用於資料中心的 NVIDIA Turing™ GPU 與用於邊緣運算的 NVIDIA Jetson Xavier™ 系統單晶片之優異表現。


MLPerf 的五項推論基準適用於多種形式與四個推論情境,其中包含已經建立的影像分類、物體偵測和翻譯等 AI 應用項目。


NVIDIA 在資料中心伺服器與離線情境的五項基準測試中皆拔得頭籌,Turing 架構 GPU 在所有商用處理器中讓各處理器均創下最佳的表現。Jetson Xavier 在著重於邊緣的單串流及多串流情境中,在所有商用邊緣及行動系統單晶片中提供最高的效能。



NVIDIA 加速運算部門副總裁暨總經理 Ian Buck 表示:「AI 正處於一個轉捩點,迅速從研究領域轉向實際應用的大規模落地部署。AI 推論有著十分吃重的運算要求。NVIDIA 結合業界最先進的可編程加速器、CUDA-X AI 演算法套件,以及在 AI 運算方面的深厚專業知識,可以幫助資料中心部署其龐大且不斷增長的複雜 AI 模型。」


NVIDIA 強調其運算平台在多種 AI 作業負載方面的可編程性和效能,是唯一一間在五項 MLPerf 基準測試中均創下亮眼成績的公司。今年七月 NVIDIA 在 AI 訓練 MLPerf 0.6 基準測試拿下第一,締造了八項訓練表現的最佳紀錄


NVIDIA GPU 協助全球眾多最大型雲端基礎設施加速大規模推論作業,包括阿里雲、AWS、Google Cloud Platform、Microsoft Azure 及騰訊雲。現今 AI 延伸至行動點及資料建立的邊緣,像是 Walmart 和 P&G 在內的全球各大企業和組織,都使用 NVIDIA EGX 邊緣運算平台 AI 推論效能,在網路邊緣執行複雜的 AI 運算作業。

NVIDIA 透過 NVIDIA TensorRT™ 6 高效能深度學習推論軟體創下各項 MLPerf 測試佳績,該軟體可以在從資料中心到邊緣輕鬆優化及部署正式生產環境中的 AI 應用程式。在 Github 檔案庫中也能以開放源碼的型態取得新的 TensorRT 優化項目。


全新的 Jetson Xavier NX

NVIDIA 今日也推出 Jetson Xavier NX 為旗下的推論平台加入新生力軍。Jetson Xavier NX 是全球尺寸最小、功能最強大的 AI 超級電腦,能用於機器人和邊緣嵌入式運算裝置,在 MLPerf Inference 0.5 測試中使用的是 Xavier 系統單晶片的低功率版本。