Grace Blackwell 現已於 Azure上提供,全新工業 AI 工作流程以及 RTX AI PC 的工具與功能加速 AI 開發
NVIDIA 和微軟今天推出了旨在推進微軟平台和應用程式上全端 NVIDIA 人工智慧(AI)開發的產品整合。
在 Microsoft Ignite 大會上,微軟宣布推出基於 NVIDIA Blackwell 平台的 Azure ND GB200 V6 VM 系列的首個雲端私有預覽版。Azure ND GB200 v6 將是全新的 AI 最佳化虛擬機器(VM)系列,並將 NVIDIA GB200 NVL72 機架設計與 NVIDIA Quantum InfiniBand 網路結合。
此外,微軟也宣布Azure 容器應用程式(Azure Container Apps)現在支援 NVIDIA GPU,從而實現簡化且可擴展的 AI 部署。在此同時,Azure 上的 NVIDIA AI 平台包括用於工業 AI 的新參考工作流程,以及用於建立由 AI 驅動沉浸式視覺效果的 NVIDIA Omniverse Blueprint。
在 Ignite 大會上,NVIDIA 同時宣布推出適用於 RTX AI PC與工作站的多模態小型語言模型(SLM),進一步提升數位人類互動和虛擬助理的真實感。
NVIDIA Blackwell 驅動微軟 Azure 上的次世代 AI
微軟全新 Azure ND GB200 V6 VM 系列將運用 NVIDIA GB200 Grace Blackwell 超級晶片的強大效能,並結合先進的 NVIDIA Quantum InfiniBand 網路技術。這款產品專為大規模深度學習工作負載進行最佳化,以加速自然語言處理、電腦視覺等領域的突破。
基於 Blackwell 的 VM 系列將使先前推出配備 ND H200 V5 VM 高效能虛擬機的Azure AI叢集更加完善,後者包括提供更高的高頻寬記憶體,提升 AI 推論能力。ND H200 V5 VM 已被 OpenAI 用於改進 ChatGPT 的效能。
Azure 容器應用程式搭配 NVIDIA 加速運算,實現無伺服器 AI 推論
無伺服器運算讓 AI 應用開發者能夠更敏捷地快速部署、擴展和迭代應用,而無需關注底層基礎設施。這使得開發者可以專注於最佳化模型和改進功能,同時將營運負擔降至最低。
Azure 容器應用程式的無伺服器容器平台透過抽象化底層基礎設施,來簡化基於微服務的應用程式部署和管理。
Azure 容器應用程式現在透過無伺服器 GPU 支援 NVIDIA 加速的工作負載,使開發人員能夠在靈活的、基於使用量的無伺服器環境中,將加速運算的強大功能用於即時 AI 推論應用程式。此功能可簡化AI的規模部署,同時提高資源效率和應用效能,而無需承受基礎架構管理的負擔。
無伺服器 GPU 使開發團隊能夠更專注於創新,並減少對基礎架構管理的關注。憑藉按秒計費和化整為零的功能,客戶只需為他們使用的運算付費,有助於確保資源利用既具備經濟性又有效率。NVIDIA 也與微軟合作,將 NVIDIA NIM 微服務引入 Azure 中的無伺服器 NVIDIA GPU,以最佳化 AI 模型效能。
NVIDIA 推出適用於先進3D 應用的 Omniverse 參考工作流程
NVIDIA 宣布推出參考工作流程,幫助開發人員在 NVIDIA Omniverse 和通用場景描述(OpenUSD) 上建立 3D 模擬和數位孿生應用,從而加速工業 AI 並推進 AI 驅動的創造力。
用於工業營運的 3D 遠端監控的參考工作流程即將推出,使開發人員能夠將工業系統的實體精確 3D 模型連接到來自 Azure IoT Operations 和 Power BI 的即時資料。
這兩項微軟服務與基於 NVIDIA Omniverse 和 OpenUSD 構建的應用整合,為工業物聯網使用情境提供解決方案。這有助於遠端操作團隊加快決策,並最佳化生產設施的流程。
用於精確視覺生成式AI的 Omniverse Blueprint 使開發人員能夠創建應用,讓非技術團隊產生AI增強的視覺效果,同時保留品牌資產。此藍圖支援 SDXL 和 Shutterstock Generative 3D 等模型,以簡化品牌上的 AI 生成圖像的創建。
包括 Accenture Song、Collective、GRIP、Monks 和 WPP 在內的領先創意團隊已採用此 NVIDIA Omniverse Blueprint,以在各個市場中個人化和客製化圖像。
使用 RTX AI PC 加速 Windows 的生成式 AI
NVIDIA 與微軟的合作延伸至將 AI 功能引入個人運算裝置。
在 Ignite 大會上,NVIDIA 宣布推出名為 NVIDIA Nemovision-4B Instruct 的全新多模態 SLM,用於理解現實世界和螢幕上的視覺影像。它即將應用於 RTX AI PC 和工作站,並將為更複雜、更逼真的數位人類互動鋪平道路。
此外,NVIDIA TensorRT 模型最佳化器(Model Optimizer,ModelOpt) 的更新為 Windows 開發人員提供了最佳化模型以部署至 ONNX Runtime 的解決方案。TensorRT ModelOpt 讓開發人員能夠為 PC 建立 AI 模型,這些模型在 RTX GPU 加速時速度更快、更準確。此功能使大型模型能在 PC 的限制條件內運行,同時使開發人員可以輕鬆地使用 ONNX 運行時在 PC 生態系中部署。
搭載 RTX AI驅動的PC與工作站,透過本地 AI 運算提供增強的生產力工具、創意應用以及沉浸式體驗。
全端協作推動AI開發
NVIDIA 廣泛的合作夥伴和開發者生態系為 Azure 平台帶來了豐富的 AI 和高效能運算選項。
全球 IT 諮詢和數位服務供應商 SoftServe 今天宣佈在 Azure Marketplace 上推出 SoftServe生成式AI工業助理,該助理基於 NVIDIA AI Blueprint 用於多模態 PDF 資料擷取。該助理透過使用AI加強設備維護並提高工人生產力來解決製造過程中的關鍵挑戰。
在 Ignite 大會上,AT&T 將展示如何使用 NVIDIA AI 和 Azure 透過檢索增強生成以及自主助理和代理來提高營運效率、提高員工生產力並推動業務成長。
了解有關 NVIDIA 和微軟在 Ignite 大會上的合作和會議的更多資訊。