從訓練到部署人工智慧、半導體到軟體庫、從系統到雲端服務,NVIDIA 執行長黃仁勳勾勒出如何讓新一代的科技突破讓全球觸手可及。
ChatGPT 才只是開始而已。
隨著如今運算技術出現他所說的「光速」發展速度,NVIDIA 創辦人暨執行長黃仁勳今日宣布與 Google、微軟、Oracle(甲骨文)及多家重量級企業展開更大規模的合作活動,將為各行各業帶來嶄新的人工智慧、模擬及協作能力。
黃仁勳在 NVIDIA 的 GTC 大會主題演講中表示:「曲速引擎是加速運算,而它的能量來源正是人工智慧。生成式人工智慧的出色能力,讓各大企業開始對於重新構思產品和商業模式有了迫切感。」
黃仁勳發表了長達78分鐘的主題演講,替為期四天的 GTC 大會揭開序幕,演講中介紹了 NVIDIA 與合作夥伴如何為尖端人工智慧服務提供從訓練到部署的各項內容。他宣布推出新款半導體和軟體庫,以協助推動新的突破研究成果。黃仁勳還宣布將推出一整套系統和服務,供全球競相落實這些創新項目的新創公司及企業使用。
黃仁勳不時在演講中用生動的例子,說明這個生態系統所扮演的角色。他宣布 NVIDIA 與微軟將把數億名Microsoft365 及 Azure 使用者與用於建立及運作超現實虛擬世界的平台連結起來。他帶領觀眾們瞭解 Amazon(亞馬遜)如何使用複雜的模擬能力來訓練新式自主倉庫機器人。他也在演講中談到 像是ChatGPT 這類新一代大受歡迎生成式人工智慧服務的出現。
黃仁勳在強調 NVIDIA 進行創新的基礎本質時,詳細介紹了NVIDIA 在運算微影技術的突破性成果,是如何與 ASML、台積電及 Synopsis 合作打造出新一代高效強大的2奈米半導體。
黃仁勳表示加速運算與人工智慧來的正是時候,隨著摩爾定律的放緩,各行各業都在因應永續發展、生成式人工智慧及數位化這些強大驅動市場前行的動能所帶來的挑戰。「工業領域裡的業者爭相進行數位化,將自己重新塑造為軟體驅動的科技公司- – 企圖成為顛覆市場的人,而非被市場顛覆的人。」黃仁勳說。
加速運算技術可以協助這些業者因應這些挑戰。黃仁勳說:「加速運算是減少用電量、達到永續發展及淨零排放目標的最佳途徑。」
GTC 大會:規模最大的人工智慧盛會
走過十四個年頭的 GTC 大會,儼然成為全球最重要的人工智慧盛會之一。本週的 GTC 大會共有650場講座,特別力邀 DeepMind 的 Demis Hassabis、阿貢國家實驗室的 Valeri Taylor、Adobe 的 Scott Belsky、Netflix 的 Paul Debevec、蘇黎世聯邦理工學院的 Thomas Schulthess 等重量級貴賓,以及黃仁勳與 OpenAI 的共同創辦人,也是建立 ChatGPT 的 Ilya Sutskever,進行一場特別的爐邊談話。
有超過25萬人報名參加今年的 GTC 大會,將能夠深入探討從修復兩千年前遺失的羅馬馬賽克圖案,到打造未來工廠;從使用新一代大型望遠鏡探索宇宙,到重新排列分子以加速藥物發現,以及超過七十場關於生成式人工智慧的演講。
人工智慧迎來 iPhone 時刻
NVIDIA 的技術是發展人工智慧的基礎,黃仁勳講述了 NVIDIA 如何在生成式人工智慧革命的初期便參與其中。他早在2016年便親手將第一台 NVIDIA DGX 人工智慧超級電腦交給 OpenAI,這是用於在背後支持 ChatGPT 這項大型語言模型出現突破性成果的引擎。
去年底甫亮相的 ChatGPT,幾乎瞬間成為市場當紅主流,吸引超過一億人使用,成為史上成長速度快的應用程式。「我們正處於人工智慧的 iPhone 時刻。」黃仁勳說。
黃仁勳表示 NVIDIA DGX 超級電腦一開始是當成研究人工智慧的工具,如今全球各地的企業一整天都在運行這具超級電腦,以完善資料和處理人工智慧。財富100強(Fortune 100)排行榜中有半數的企業都裝有 DGX AI 超級電腦。
「DGX超級電腦是現代人工智慧工廠。」黃仁勳說。
用於資料中心的 NVIDIA H100、Grace Hopper、Grace
黃仁勳表示部署像 ChatGPT 這樣的大型語言模型,是一新式的、相當重要的推論工作負載。黃仁勳宣布針對像是ChatGPT 這樣類型的大型語言模型推論作業推出新款 GPU,即擁有雙 GPU NVLink 的 H100 NVL。
採用 NVIDIA Hopper 架構的 H100 具有一個 Transformer引擎,用於處理像是支援 ChatGPT 的 GPT 等模型。與用於處理 GPT-3 的 HGX A100 相比,一台搭載四對 H100 及雙 GPU NVLink 的標準伺服器,其處理速度最高可提升十倍。
「H100 可以將處理大型語言模型的成本降低一個數量級。」黃仁勳說。
黃仁勳表示同時在過去十年裡,雲端運算市場的規模每年成長20%,產業市值達到一兆美元。NVIDIA 設計用於人工智慧及雲端優先環境的 Grace CPU,由 GPU 加速執行各項人工智慧工作負載。黃仁勳說現正將 Grace 的樣品送給各大廠商進行測試。
NVIDIA 的新款超級晶片 Grace Hopper,以每秒 900GB 的高速一致性晶片到晶片(chip-to-chip)介面連接 Grace CPU 和 Hopper GPU。黃仁勳說 Grace Hopper 是處理用於推薦系統的人工智慧資料庫,還有大型語言模型這一類海量資料集的理想選擇。
黃仁勳說:「客戶想要把人工智慧資料庫擴大幾個數量級。Grace Hopper 是理想的引擎。」
DGX 是打造人工智慧基礎設施的藍圖
最新版的 DGX 搭載八個 NVIDIA H100 GPU,這八個 GPU 連在一起變成一個巨大的 GPU 來處理各項工作。黃仁勳說:「NVIDIA DGX H100 是全球客戶建造人工智慧基礎設施的藍圖。」,並且分享 NVIDIA DGX H100 現已全面投產。
H100 人工智慧超級電腦已經上線。Oracle Cloud Infrastructure 宣布限量推出搭載 H100 GPU 的新式 OCI Compute 裸機 GPU 執行個體。
此外,Amazon Web Services 宣布即將推出 P5 執行個體的 EC2 UltraClusters,其規模可以擴大到兩萬個互連的 H100 GPU。
微軟 Azure 才在上週宣布推出 H100 虛擬機器 ND H100 v5 的非公開專屬預覽活動。
Meta 在公司內部部署了供人工智慧生產和研究團隊使用、搭載 H100 的 Grand Teton AI 超級電腦。
OpenAI 將在其 Azure 超級電腦上使用 H100,以持續支持其人工智慧研究。
其他提供 搭載H100雲端平台服務 的合作夥伴還有 Cirrascale 及 CoreWeave,這兩家公司今天都宣布全面提供。此外,Google Cloud、Lambda、Paperspace 及 Vult 計畫推出搭載H100的雲端平台。
各大伺服器製造商現已開始提供搭載 NVIDIA H100 GPU 的伺服器和系統,這些業者有源訊(Atos) 、思科系統(Cisco) 、戴爾科技集團(Dell Technologies)、技嘉科技、慧與科技公司(Hewlett Packard Enterprise)、聯想集團 (Lenovo)及 美超微電腦 (Supermicro)。
DGX Cloud:立即將人工智慧帶給每個公司
黃仁勳宣布推出 NVIDIA DGX Cloud,與微軟 Azure、Google Cloud 及 Oracle Cloud Infrastructure 合作,「每間公司只要簡單透過網路瀏覽器就能使用 NVIDIA DGX AI超級電腦」,讓那些爭相打造新產品及制定人工智慧策略的新創公司和企業可以更快取得 DGX 的強大實力。
完成最佳化調整的 DGX Cloud 可以運行 NVIDIA AI Enterprise,這是獨步全球的加速軟體套件,用於端到端的人工智慧開發和部署作業。「DGX Cloud 把 NVIDIA AI 技術的精華,還有全球各大雲端服務提供商的優點都交到客戶的手上。」黃仁勳說。
NVIDIA 與各大雲端服務提供商合作託管 DGX Cloud 基礎設施,由 Oracle Cloud Infrastructure 搶得頭香。微軟 Azure 預計將在下一季開始託管 DGX Cloud,Google Cloud 等其他業者將隨後跟上。
黃仁勳表示這項合作關係將 NVIDIA 的生態系統帶給雲端服務提供商,又擴大了 NVIDIA 的規模和接觸範圍。企業將能夠按月租用 DGX Cloud 叢集,確保他們可以輕鬆快速地調整發展大型多節點訓練工作負載的規模。
助力生成式人工智慧的發展
黃仁勳宣布推出 NVIDIA AI Foundations 雲端服務系列,供需要建立、完善和操作自訂大型語言模型,以及使用專有資料來訓練生成式人工智慧以執行特定領域任務的客戶使用,讓想要利用生成式人工智慧的人可以加速執行各項工作。
AI Foundations 服務包括用於建立自訂語言文字轉文字生成式模型的 NVIDIA NeMo;Picasso 視覺語言模型製作服務,適用於想要建立用取得授權或專有內容來訓練自訂模型的客戶;以及 BioNeMo,供市值兩兆美元藥物發現產業的研究人員使用。
Adobe 與 NVIDIA 合作打造一套適用於未來創意人的下一代人工智慧功能。
Getty Images 與 NVIDIA 合作訓練開發負責任的生成式文字轉圖片及文字轉影片基礎模型。
Shutterstock 與 NVIDIA 合作訓練一個生成式文字轉 3D 的基礎模型,讓建立精細 3D 資產的工作變得更簡單。
加速推動醫學領域進步
NVIDIA 宣布 Amgen(安進)將使用 BioNeMo 加快推動藥物發現服務。Alchemab Therapeutics、AstraZeneca、Evozyne、Innophore 及 Insilico 也都是搶先試用 BioNemo 的客戶。
黃仁勳說 BioNeMo 幫助研究人員用他們自己的專有資料來建立、微調和自訂模型。
黃仁勳另宣布 NVIDIA 與全球最大的醫療科技提供商 Medtronic(美敦力)合作,為軟體定義的醫療設備建立人工智慧平台。這項合作關係將為 Medtronic 旗下的手術導航,以及機器人輔助手術等系統建立一個通用平台。
Medtronic 今日宣布該公司使用 NVIDIA Holoscan 打造出的 GI Genius 系統,透過人工智慧對大腸結腸癌進行早期檢測。NVIDIA Holoscan 是用於即時感測器處理系統的軟體庫,將於今年底左右出貨。
「全球市值2500億美元的醫療儀器市場將進行轉型。」黃仁勳說。
加速部署生成式人工智慧應用程式
黃仁勳宣布推出用於人工智慧影片、影像生成、LLM 部署及推薦系統推論作業的推論平台,以幫助企業部署快速興起的生成式人工智慧模型。在這個平台中結合了 NVIDIA 推論軟體的完整堆疊和最新的 NVIDIA Ada、Hopper 及 Grace Hopper 處理器,包括今日推出的 NVIDIA L4 Tensor 核心 GPU 與 NVIDIA H100 NVL GPU。
Google Cloud 是率先將 L4 提供給客戶的雲端服務提供商,推出了新款 G2 虛擬機器,今日起開放非公開專屬預覽活動。Google 也將在 Vertex AI 模型商店中加入 L4。
微軟與 NVIDIA 將把 Omniverse 帶給「數億」人使用
黃仁勳在公布第二項雲端服務,讓企業更快取得前所未有的模擬及協作能力時,宣布 NVIDIA 將與微軟合作,讓全球各行各業可以使用到 NVIDIA Omniverse Cloud 這項完全託管的雲端服務。
黃仁勳表示:「微軟與 NVIDIA 將合作讓數億名Microsoft 365 和 Azure 用戶可以使用到 Omnivese。」他還公布新款 NVIDIA OVX 伺服器與新一代工作站產品,在這些產品上搭載了 NVIDIA RTX Ada Generation GPU 及 Intel 針對 NVIDIA Omniverse 進行最佳化的最新款 CPU。
黃仁勳為展示 NVIDIA 替 3D 設計協作和數位孿生模擬而打造的開放式 Omniverse 平台出色功能,透過一支影片展示建立在 Omniverse 上的 NVIDIA 機器人模擬和合成生成平台 NVIDIA Isaac Sim,如何製作出極具真實感的數位孿生模型,協助用戶節省寶貴的金錢和時間。
在這支影片中可以看到 Amazon(亞馬遜)如何努力編排 Amazon 首個全自主倉庫機器人 Proteus 的動作,它在 Amazon 寬敞的倉庫中與人類及其他機器人共同將一箱箱產品從一處搬到另一處。
市值三兆美元的汽車產業將進行數位化
黃仁勳深入介紹 Omniverse 在帶領市值三兆美元之汽車產業進行數位化的過程中所扮演的角色,讓更多人明白 Omniverse 的影響力和能力。黃仁勳表示到2030年之際,汽車製造商將建造出三百座工廠,生產兩億輛電動車,而電池製造商正在興建百座巨型工廠。「數位化將提高產業的效率、生產力和速度。」黃仁勳說。
在談到整個車業使用 Omniverse 的情況時,黃仁勳表示吉利路特斯(Geely Lotus)使用 Omniverse 來開發虛擬的裝配焊接站。Mercedes-Benz 使用 Omniverse 為新車款建立、最佳化及規劃裝配線。Rimac 與 Lucid Motors 使用 Omniverse 使用實際的設計資料來建立數位商店,原原本本地表現車款的樣子。
BMW 與 Idealworks 合作使用 Omniverse 中的 Isaac Sim,產生各種合成資料和情境來訓練工廠機器人。黃仁勳說 BMW 使用 Omniverse 來規劃全球各處工作的運作,另外還在工廠落成啟用前,以兩年時間完全在 Omniverse 中規劃一處新的電動車工廠。
NVIDIA 此外今日還宣布領先全球的新能源車(NEV)製造商比亞迪,將擴大把 NVIDIA DRIVE Orin 集中運算平台用在旗下更多的 NEV 車款。
加速推動半導體業取得突破性創新成就
由於當前的半導體製程已接近物理學的極限,黃仁勳宣布推出 NVIDIA cuLitho,這項突破性技術將加速運算技術用於運算光刻領域,能夠幫助 ASML、台積電與 Synopsis 等半導體領導業者加速推動設計與製造出新一代的晶片。
全球最大的晶圓代工廠台積電與電子設計自動化領導業者 Synopsys,將用於運算微影技術的全新 NVIDIA cuLitho 軟體庫加入其最新一代 NVIDIA Hopper 架構 GPU 的軟體、製程及系統中。
晶片製造設備供應商 ASML 與 NVIDIA 就 GPU 及 cuLitho 進行密切合作,並且打算讓旗下每一款運算微影軟體產品開始支援 GPU。黃仁勳表示由於微影技術處於物理學的極限,NVIDIA 推出的 cuLitho 將使得半導體業能夠產生出2奈米及更先進的半導體。
「晶片業幾乎是各行各業的基礎。」黃仁勳說。
加速全球每個最大企業的運作效率
全球各大企業紛紛挺身支持黃仁勳的遠大願景。
電信巨頭 AT&T 使用 NVIDIA AI 以提高處理資料的效率,且正在測試 Omniverse ACE 和 Tokkio 人工智慧虛擬化身工作流程,為客服部門和員工服務台建立、自訂及部署虛擬助理。
美國運通、美國郵政署、Microsoft Office 和 Teams,以及 Amazon 等四萬名客戶,使用高效能 NVIDIA TensorRT 推論優化器和運行時,還有多框架資料中心推論服務軟體 NVIDIA Triton 來促進其工作效率。
Uber 使用 Triton,每秒預測數十萬次預計抵達時間(ETA)。
每天擁有超過六千萬名活躍用戶的 Roblox,使用 Triton 來提供遊戲推薦模型、建立數位分身,以及管理內容和市場廣告。
微軟、騰訊與百度都在人工智慧電腦視覺作業方面開始使用 NVIDIA CV-CUDA。NVIDIA CV-CUDA 技術現為公測階段,針對前製及後製作業進行最佳化調整,有助於省下四倍的成本及能源使用量。
協助將不可能化為可能
黃仁勳在主題演講的尾聲,對 NVIDIA 的系統、雲端及軟體合作夥伴,以及所有研究人員、科學家和員工表達謝意。
黃仁勳宣布 NVIDIA 已經更新了100個加速庫,包括用於量子計算的 cuQuantum 和全新開放原始碼的 CUDA Quantum、用於組合最佳化的 cuOpt,以及用於運算光刻技術的 cuLitho。
黃仁勳表示 NVIDIA 的全球生態系統現有四百萬名開發人員、四萬家公司加入,而 NVIDIA Inception 計畫則有1.4萬間新創公司加入。
黃仁勳說:「如此龐大的生態系統將協助全球各個領域把不可能化為可能。」
ChatGPT 才只是開始而已。
隨著如今運算技術出現他所說的「光速」發展速度,NVIDIA 創辦人暨執行長黃仁勳今日宣布與 Google、微軟、Oracle(甲骨文)及多家重量級企業展開更大規模的合作活動,將為各行各業帶來嶄新的人工智慧、模擬及協作能力。
黃仁勳在 NVIDIA 的 GTC 大會主題演講中表示:「曲速引擎是加速運算,而它的能量來源正是人工智慧。生成式人工智慧的出色能力,讓各大企業開始對於重新構思產品和商業模式有了迫切感。」
黃仁勳發表了長達78分鐘的主題演講,替為期四天的 GTC 大會揭開序幕,演講中介紹了 NVIDIA 與合作夥伴如何為尖端人工智慧服務提供從訓練到部署的各項內容。他宣布推出新款半導體和軟體庫,以協助推動新的突破研究成果。黃仁勳還宣布將推出一整套系統和服務,供全球競相落實這些創新項目的新創公司及企業使用。
黃仁勳不時在演講中用生動的例子,說明這個生態系統所扮演的角色。他宣布 NVIDIA 與微軟將把數億名Microsoft365 及 Azure 使用者與用於建立及運作超現實虛擬世界的平台連結起來。他帶領觀眾們瞭解 Amazon(亞馬遜)如何使用複雜的模擬能力來訓練新式自主倉庫機器人。他也在演講中談到 像是ChatGPT 這類新一代大受歡迎生成式人工智慧服務的出現。
黃仁勳在強調 NVIDIA 進行創新的基礎本質時,詳細介紹了NVIDIA 在運算微影技術的突破性成果,是如何與 ASML、台積電及 Synopsis 合作打造出新一代高效強大的2奈米半導體。
黃仁勳表示加速運算與人工智慧來的正是時候,隨著摩爾定律的放緩,各行各業都在因應永續發展、生成式人工智慧及數位化這些強大驅動市場前行的動能所帶來的挑戰。「工業領域裡的業者爭相進行數位化,將自己重新塑造為軟體驅動的科技公司- – 企圖成為顛覆市場的人,而非被市場顛覆的人。」黃仁勳說。
加速運算技術可以協助這些業者因應這些挑戰。黃仁勳說:「加速運算是減少用電量、達到永續發展及淨零排放目標的最佳途徑。」
GTC 大會:規模最大的人工智慧盛會
走過十四個年頭的 GTC 大會,儼然成為全球最重要的人工智慧盛會之一。本週的 GTC 大會共有650場講座,特別力邀 DeepMind 的 Demis Hassabis、阿貢國家實驗室的 Valeri Taylor、Adobe 的 Scott Belsky、Netflix 的 Paul Debevec、蘇黎世聯邦理工學院的 Thomas Schulthess 等重量級貴賓,以及黃仁勳與 OpenAI 的共同創辦人,也是建立 ChatGPT 的 Ilya Sutskever,進行一場特別的爐邊談話。
有超過25萬人報名參加今年的 GTC 大會,將能夠深入探討從修復兩千年前遺失的羅馬馬賽克圖案,到打造未來工廠;從使用新一代大型望遠鏡探索宇宙,到重新排列分子以加速藥物發現,以及超過七十場關於生成式人工智慧的演講。
人工智慧迎來 iPhone 時刻
NVIDIA 的技術是發展人工智慧的基礎,黃仁勳講述了 NVIDIA 如何在生成式人工智慧革命的初期便參與其中。他早在2016年便親手將第一台 NVIDIA DGX 人工智慧超級電腦交給 OpenAI,這是用於在背後支持 ChatGPT 這項大型語言模型出現突破性成果的引擎。
去年底甫亮相的 ChatGPT,幾乎瞬間成為市場當紅主流,吸引超過一億人使用,成為史上成長速度快的應用程式。「我們正處於人工智慧的 iPhone 時刻。」黃仁勳說。
黃仁勳表示 NVIDIA DGX 超級電腦一開始是當成研究人工智慧的工具,如今全球各地的企業一整天都在運行這具超級電腦,以完善資料和處理人工智慧。財富100強(Fortune 100)排行榜中有半數的企業都裝有 DGX AI 超級電腦。
「DGX超級電腦是現代人工智慧工廠。」黃仁勳說。
用於資料中心的 NVIDIA H100、Grace Hopper、Grace
黃仁勳表示部署像 ChatGPT 這樣的大型語言模型,是一新式的、相當重要的推論工作負載。黃仁勳宣布針對像是ChatGPT 這樣類型的大型語言模型推論作業推出新款 GPU,即擁有雙 GPU NVLink 的 H100 NVL。
採用 NVIDIA Hopper 架構的 H100 具有一個 Transformer引擎,用於處理像是支援 ChatGPT 的 GPT 等模型。與用於處理 GPT-3 的 HGX A100 相比,一台搭載四對 H100 及雙 GPU NVLink 的標準伺服器,其處理速度最高可提升十倍。
「H100 可以將處理大型語言模型的成本降低一個數量級。」黃仁勳說。
黃仁勳表示同時在過去十年裡,雲端運算市場的規模每年成長20%,產業市值達到一兆美元。NVIDIA 設計用於人工智慧及雲端優先環境的 Grace CPU,由 GPU 加速執行各項人工智慧工作負載。黃仁勳說現正將 Grace 的樣品送給各大廠商進行測試。
NVIDIA 的新款超級晶片 Grace Hopper,以每秒 900GB 的高速一致性晶片到晶片(chip-to-chip)介面連接 Grace CPU 和 Hopper GPU。黃仁勳說 Grace Hopper 是處理用於推薦系統的人工智慧資料庫,還有大型語言模型這一類海量資料集的理想選擇。
黃仁勳說:「客戶想要把人工智慧資料庫擴大幾個數量級。Grace Hopper 是理想的引擎。」
DGX 是打造人工智慧基礎設施的藍圖
最新版的 DGX 搭載八個 NVIDIA H100 GPU,這八個 GPU 連在一起變成一個巨大的 GPU 來處理各項工作。黃仁勳說:「NVIDIA DGX H100 是全球客戶建造人工智慧基礎設施的藍圖。」,並且分享 NVIDIA DGX H100 現已全面投產。
H100 人工智慧超級電腦已經上線。Oracle Cloud Infrastructure 宣布限量推出搭載 H100 GPU 的新式 OCI Compute 裸機 GPU 執行個體。
此外,Amazon Web Services 宣布即將推出 P5 執行個體的 EC2 UltraClusters,其規模可以擴大到兩萬個互連的 H100 GPU。
微軟 Azure 才在上週宣布推出 H100 虛擬機器 ND H100 v5 的非公開專屬預覽活動。
Meta 在公司內部部署了供人工智慧生產和研究團隊使用、搭載 H100 的 Grand Teton AI 超級電腦。
OpenAI 將在其 Azure 超級電腦上使用 H100,以持續支持其人工智慧研究。
其他提供 搭載H100雲端平台服務 的合作夥伴還有 Cirrascale 及 CoreWeave,這兩家公司今天都宣布全面提供。此外,Google Cloud、Lambda、Paperspace 及 Vult 計畫推出搭載H100的雲端平台。
各大伺服器製造商現已開始提供搭載 NVIDIA H100 GPU 的伺服器和系統,這些業者有源訊(Atos) 、思科系統(Cisco) 、戴爾科技集團(Dell Technologies)、技嘉科技、慧與科技公司(Hewlett Packard Enterprise)、聯想集團 (Lenovo)及 美超微電腦 (Supermicro)。
DGX Cloud:立即將人工智慧帶給每個公司
黃仁勳宣布推出 NVIDIA DGX Cloud,與微軟 Azure、Google Cloud 及 Oracle Cloud Infrastructure 合作,「每間公司只要簡單透過網路瀏覽器就能使用 NVIDIA DGX AI超級電腦」,讓那些爭相打造新產品及制定人工智慧策略的新創公司和企業可以更快取得 DGX 的強大實力。
完成最佳化調整的 DGX Cloud 可以運行 NVIDIA AI Enterprise,這是獨步全球的加速軟體套件,用於端到端的人工智慧開發和部署作業。「DGX Cloud 把 NVIDIA AI 技術的精華,還有全球各大雲端服務提供商的優點都交到客戶的手上。」黃仁勳說。
NVIDIA 與各大雲端服務提供商合作託管 DGX Cloud 基礎設施,由 Oracle Cloud Infrastructure 搶得頭香。微軟 Azure 預計將在下一季開始託管 DGX Cloud,Google Cloud 等其他業者將隨後跟上。
黃仁勳表示這項合作關係將 NVIDIA 的生態系統帶給雲端服務提供商,又擴大了 NVIDIA 的規模和接觸範圍。企業將能夠按月租用 DGX Cloud 叢集,確保他們可以輕鬆快速地調整發展大型多節點訓練工作負載的規模。
助力生成式人工智慧的發展
黃仁勳宣布推出 NVIDIA AI Foundations 雲端服務系列,供需要建立、完善和操作自訂大型語言模型,以及使用專有資料來訓練生成式人工智慧以執行特定領域任務的客戶使用,讓想要利用生成式人工智慧的人可以加速執行各項工作。
AI Foundations 服務包括用於建立自訂語言文字轉文字生成式模型的 NVIDIA NeMo;Picasso 視覺語言模型製作服務,適用於想要建立用取得授權或專有內容來訓練自訂模型的客戶;以及 BioNeMo,供市值兩兆美元藥物發現產業的研究人員使用。
Adobe 與 NVIDIA 合作打造一套適用於未來創意人的下一代人工智慧功能。
Getty Images 與 NVIDIA 合作訓練開發負責任的生成式文字轉圖片及文字轉影片基礎模型。
Shutterstock 與 NVIDIA 合作訓練一個生成式文字轉 3D 的基礎模型,讓建立精細 3D 資產的工作變得更簡單。
加速推動醫學領域進步
NVIDIA 宣布 Amgen(安進)將使用 BioNeMo 加快推動藥物發現服務。Alchemab Therapeutics、AstraZeneca、Evozyne、Innophore 及 Insilico 也都是搶先試用 BioNemo 的客戶。
黃仁勳說 BioNeMo 幫助研究人員用他們自己的專有資料來建立、微調和自訂模型。
黃仁勳另宣布 NVIDIA 與全球最大的醫療科技提供商 Medtronic(美敦力)合作,為軟體定義的醫療設備建立人工智慧平台。這項合作關係將為 Medtronic 旗下的手術導航,以及機器人輔助手術等系統建立一個通用平台。
Medtronic 今日宣布該公司使用 NVIDIA Holoscan 打造出的 GI Genius 系統,透過人工智慧對大腸結腸癌進行早期檢測。NVIDIA Holoscan 是用於即時感測器處理系統的軟體庫,將於今年底左右出貨。
「全球市值2500億美元的醫療儀器市場將進行轉型。」黃仁勳說。
加速部署生成式人工智慧應用程式
黃仁勳宣布推出用於人工智慧影片、影像生成、LLM 部署及推薦系統推論作業的推論平台,以幫助企業部署快速興起的生成式人工智慧模型。在這個平台中結合了 NVIDIA 推論軟體的完整堆疊和最新的 NVIDIA Ada、Hopper 及 Grace Hopper 處理器,包括今日推出的 NVIDIA L4 Tensor 核心 GPU 與 NVIDIA H100 NVL GPU。
- 用於人工智慧影片的 NVIDIA L4,其製作人工智慧影片的效能較 CPU 多出120倍,能源使用效率也提高99%。
- 用於影像生成的 NVIDIA L40 針對繪圖及人工智慧生成的 2D、影片和 3D 影像進行了最佳化調整。
- 用於部署大型語言模型的 NVIDIA H100 NVL 是大規模部署像是 ChatGPT 這類大型語言模型的理想選擇。
- 用於推薦模型的 NVIDIA Grace Hopper 是圖形推薦模型、向量圖形資料庫及繪圖神經網路的理想選擇。
Google Cloud 是率先將 L4 提供給客戶的雲端服務提供商,推出了新款 G2 虛擬機器,今日起開放非公開專屬預覽活動。Google 也將在 Vertex AI 模型商店中加入 L4。
微軟與 NVIDIA 將把 Omniverse 帶給「數億」人使用
黃仁勳在公布第二項雲端服務,讓企業更快取得前所未有的模擬及協作能力時,宣布 NVIDIA 將與微軟合作,讓全球各行各業可以使用到 NVIDIA Omniverse Cloud 這項完全託管的雲端服務。
黃仁勳表示:「微軟與 NVIDIA 將合作讓數億名Microsoft 365 和 Azure 用戶可以使用到 Omnivese。」他還公布新款 NVIDIA OVX 伺服器與新一代工作站產品,在這些產品上搭載了 NVIDIA RTX Ada Generation GPU 及 Intel 針對 NVIDIA Omniverse 進行最佳化的最新款 CPU。
黃仁勳為展示 NVIDIA 替 3D 設計協作和數位孿生模擬而打造的開放式 Omniverse 平台出色功能,透過一支影片展示建立在 Omniverse 上的 NVIDIA 機器人模擬和合成生成平台 NVIDIA Isaac Sim,如何製作出極具真實感的數位孿生模型,協助用戶節省寶貴的金錢和時間。
在這支影片中可以看到 Amazon(亞馬遜)如何努力編排 Amazon 首個全自主倉庫機器人 Proteus 的動作,它在 Amazon 寬敞的倉庫中與人類及其他機器人共同將一箱箱產品從一處搬到另一處。
市值三兆美元的汽車產業將進行數位化
黃仁勳深入介紹 Omniverse 在帶領市值三兆美元之汽車產業進行數位化的過程中所扮演的角色,讓更多人明白 Omniverse 的影響力和能力。黃仁勳表示到2030年之際,汽車製造商將建造出三百座工廠,生產兩億輛電動車,而電池製造商正在興建百座巨型工廠。「數位化將提高產業的效率、生產力和速度。」黃仁勳說。
在談到整個車業使用 Omniverse 的情況時,黃仁勳表示吉利路特斯(Geely Lotus)使用 Omniverse 來開發虛擬的裝配焊接站。Mercedes-Benz 使用 Omniverse 為新車款建立、最佳化及規劃裝配線。Rimac 與 Lucid Motors 使用 Omniverse 使用實際的設計資料來建立數位商店,原原本本地表現車款的樣子。
BMW 與 Idealworks 合作使用 Omniverse 中的 Isaac Sim,產生各種合成資料和情境來訓練工廠機器人。黃仁勳說 BMW 使用 Omniverse 來規劃全球各處工作的運作,另外還在工廠落成啟用前,以兩年時間完全在 Omniverse 中規劃一處新的電動車工廠。
NVIDIA 此外今日還宣布領先全球的新能源車(NEV)製造商比亞迪,將擴大把 NVIDIA DRIVE Orin 集中運算平台用在旗下更多的 NEV 車款。
加速推動半導體業取得突破性創新成就
由於當前的半導體製程已接近物理學的極限,黃仁勳宣布推出 NVIDIA cuLitho,這項突破性技術將加速運算技術用於運算光刻領域,能夠幫助 ASML、台積電與 Synopsis 等半導體領導業者加速推動設計與製造出新一代的晶片。
全球最大的晶圓代工廠台積電與電子設計自動化領導業者 Synopsys,將用於運算微影技術的全新 NVIDIA cuLitho 軟體庫加入其最新一代 NVIDIA Hopper 架構 GPU 的軟體、製程及系統中。
晶片製造設備供應商 ASML 與 NVIDIA 就 GPU 及 cuLitho 進行密切合作,並且打算讓旗下每一款運算微影軟體產品開始支援 GPU。黃仁勳表示由於微影技術處於物理學的極限,NVIDIA 推出的 cuLitho 將使得半導體業能夠產生出2奈米及更先進的半導體。
「晶片業幾乎是各行各業的基礎。」黃仁勳說。
加速全球每個最大企業的運作效率
全球各大企業紛紛挺身支持黃仁勳的遠大願景。
電信巨頭 AT&T 使用 NVIDIA AI 以提高處理資料的效率,且正在測試 Omniverse ACE 和 Tokkio 人工智慧虛擬化身工作流程,為客服部門和員工服務台建立、自訂及部署虛擬助理。
美國運通、美國郵政署、Microsoft Office 和 Teams,以及 Amazon 等四萬名客戶,使用高效能 NVIDIA TensorRT 推論優化器和運行時,還有多框架資料中心推論服務軟體 NVIDIA Triton 來促進其工作效率。
Uber 使用 Triton,每秒預測數十萬次預計抵達時間(ETA)。
每天擁有超過六千萬名活躍用戶的 Roblox,使用 Triton 來提供遊戲推薦模型、建立數位分身,以及管理內容和市場廣告。
微軟、騰訊與百度都在人工智慧電腦視覺作業方面開始使用 NVIDIA CV-CUDA。NVIDIA CV-CUDA 技術現為公測階段,針對前製及後製作業進行最佳化調整,有助於省下四倍的成本及能源使用量。
協助將不可能化為可能
黃仁勳在主題演講的尾聲,對 NVIDIA 的系統、雲端及軟體合作夥伴,以及所有研究人員、科學家和員工表達謝意。
黃仁勳宣布 NVIDIA 已經更新了100個加速庫,包括用於量子計算的 cuQuantum 和全新開放原始碼的 CUDA Quantum、用於組合最佳化的 cuOpt,以及用於運算光刻技術的 cuLitho。
黃仁勳表示 NVIDIA 的全球生態系統現有四百萬名開發人員、四萬家公司加入,而 NVIDIA Inception 計畫則有1.4萬間新創公司加入。
黃仁勳說:「如此龐大的生態系統將協助全球各個領域把不可能化為可能。」