NVIDIA Project DIGITS 全球最小並運行 200B 參數模型的 AI 電腦

NVIDIA 今日正式推出個人AI超級電腦 NVIDIA® Project DIGITS ，為全球的AI研究人員、資料科學家和學生提供 NVIDIA Grace Blackwell 平台的強大功能。




Project DIGITS搭載全新的NVIDIA GB10 Grace Blackwell超級晶片，提供petaflop等級的AI運算效能，適用於原型設計、微調與運行大型AI模型。

擁有Project DIGITS，使用者便能在自己的桌上型電腦系統開發與執行模型推論，並在加速的雲端或資料中心基礎架構上流暢部署模型。

NVIDIA創辦人暨執行長黃仁勳表示：「AI將成為各行業主流的應用，藉由Project DIGITS，Grace Blackwell超級晶片將走向數百萬開發者。每位資料科學家、AI研究人員與學生的桌上將擁有一台AI超級電腦，讓他們有能力參與和塑造AI時代。」

GB10超級晶片提供1 petaflop運算能力、更具能源效率的AI效能

GB10超級晶片是一款採用NVIDIA Grace Blackwell架構的系統單晶片（SoC），可在FP4精度下提供高達1 petaflop的AI效能。


GB10搭載NVIDIA Blackwell GPU 內建最新一代CUDA®核心與第五代Tensor核心，透過NVLink®-C2C 晶片至晶片互連技術，與高效能的NVIDIA Grace™ CPU相連，其中包含20個以Arm架構建構的省電核心。聯發科做為Arm架構SoC設計的市場領導者，與其合作設計的GB10，擁有同等級產品中最佳的省電效能、執行效能與連接能力。

GB10超級晶片讓Project DIGITS只需使用標準電源插座即可提供強大效能。每個Project DIGITS均統一配備128GB的記憶體和高達4TB的NVMe儲存空間。開發者有了這台超級電腦，便能運行高達2,000億個參數的大型語言模型，為創新AI注入強大動力。此外，利用NVIDIA ConnectX®網路技術可連接兩台Project DIGITS AI超級電腦，運行多達4,050億個參數的模型。

觸手可及的Grace Blackwell AI超級運算技術

借助Grace Blackwell架構，企業和研究人員可以在運行基於 Linux 的 NVIDIA DGX OS的本機端Project DIGITS系統上對模型進行原型設計、微調和測試，然後再將其無縫部署到NVIDIA DGX Cloud™來加速雲端執行個體或資料中心基礎架構上。

這使得開發者能夠在Project DIGITS上建立AI原型，並使用相同的Grace Blackwell架構與NVIDIA AI Enterprise 軟體平台，在雲端或資料中心基礎架構上擴大其規模。

Project DIGITS的用戶可以使用龐大的NVIDIA AI軟體資料庫，進行實驗與設計原型，包括，NVIDIA NGC目錄與NVIDIA 開發者入口網站提供的軟體開發套組、協調工具、框架與模型。開發者可以利用NVIDIA NeMo™ 框架微調模型，利用NVIDIA RAPIDS™ 函式庫加速推動資料科學的發展，以及執行PyTorch、Python 和Jupyter notebooks等常見框架。

使用者也可以利用NVIDIA Blueprints 及NVIDIA NIM™ 微服務，透過NVIDIA開發者計畫進行研究、開發與測試，以建立代理型AI應用程式。當 AI 應用程式準備好從實驗階段進入生產階段時，NVIDIA AI Enterprise 授權可提供企業級的安全性、支援以及NVIDIA AI軟體的產品發行。


供貨時程

NVIDIA 與頂級合作夥伴將於今年稍後推出 Project DIGITS，售價為 3,000美元起。