blackwell

  1. soothepain

    AI 應用 NVIDIA 與微軟於 Microsoft Ignite 大會展示 Blackwell 預覽版

    Grace Blackwell 現已於 Azure上提供,全新工業 AI 工作流程以及 RTX AI PC 的工具與功能加速 AI 開發 NVIDIA 和微軟今天推出了旨在推進微軟平台和應用程式上全端 NVIDIA 人工智慧(AI)開發的產品整合。 在 Microsoft Ignite 大會上,微軟宣布推出基於 NVIDIA Blackwell 平台的 Azure ND GB200 V6 VM 系列的首個雲端私有預覽版。Azure ND GB200 v6 將是全新的 AI 最佳化虛擬機器(VM)系列,並將 NVIDIA GB200 NVL72 機架設計與 NVIDIA...
  2. soothepain

    AI 應用 峰值訓練:NVIDIA Blackwell 提供更高水準的 MLPerf 訓練效能

    在完成每項 MLPerf 測試後,Blackwell提升了 AI驅動的應用訓練效能表現 使用文字、電腦程式碼、蛋白質鏈、摘要、影片甚至 3D 圖形的生成式人工智慧(AI)應用需要資料中心規模的加速運算,才能有效率地訓練驅動這些應用的大型語言模型(LLM)。 在 MLPerf Training 4.1 基準測試中,NVIDIA Blackwell 平台在所有測試中的工作負載方面都取得了令人印象深刻的結果,並且在大型語言模型基準測試中,每個GPU 的效能最高提升了2.2 倍,包括 Llama 2 70B 和 GPT-3 175B 預訓練。 此外,NVIDIA 在 NVIDIA...
  3. soothepain

    AI 應用 NVIDIA 貢獻 Blackwell 平台設計供開放式硬體生態系使用

    NVIDIA 貢獻 GB200 NVL72 設計與 NVIDIA Spectrum-X,助力加速推動下一場產業革命 為推動發展開放、高效且具擴充能力的資料中心技術,NVIDIA 今日宣布已將 NVIDIA Blackwell 加速運算平台設計的基礎要素貢獻給開放運算計畫(OCP)使用,並且擴大 NVIDIA Spectrum-X™ 支援 OCP 標準的程度。 NVIDIA 在今年的 OCP 全球高峰會上,將與 OCP 社群分享 NVIDIA GB200 NVL72 系統機電設計的關鍵組成,包括機架架構、運算與交換器托盤機構、液冷與熱環境規格,以及 NVIDIA NVLink™...
  4. soothepain

    AI 應用 NVIDIA Blackwell 在 MLPerf Inference 基準測試首次亮相

    使用 NVIDIA Blackwell GPU 進行的首次測試結果,在 Llama 2 70B 上將推論效能提高四倍,而 NVIDIA Hopper 架構也在各產業 AI 基準測試中有著更為優異的表現 在企業爭相採用生成式人工智慧(AI)與陸續推出各項新服務的情況下,對資料中心基礎設施的需求也創下新高。訓練大型語言模型(LLM)是個難題,不過即時提供由 LLM 支援的服務同樣不易。 在最新一輪的MLPerf 產業基準:Inference v4.1中,NVIDIA 平台在各項資料中心測試項目裡皆寫下領先成績。即將推出的 NVIDIA Blackwell 平台由於使用第二代...
  5. soothepain

    顯示卡 NVIDIA Blackwell 延遲交貨, 傳晶片設計出問題

    今年3月的 GTC 2024 大會上,NVIDIA 發布了 Blackwell 架構 GPU,包括 B200 GPU、 Grace CPU 結合的 GB200、以及 GB200 NVL36 / NVL72 運算平台,未來也將帶來其他不同規格和類型的產品。依照計劃,今年下半年基於 Blackwell 架構的各類產品就將出貨。 但據傳有參與晶片和伺服器硬體生產的匿名消息人士透露,由於設計出現問題,NVIDIA 有可能會推遲 Blackwell 架構產品的出貨時間,延期三個月或更長時間,預計會影響到 Meta 、Google...
  6. soothepain

    顯示卡 據傳 NVIDIA RTX 50 系列會有 TITAN ?

    NVIDIA TITAN 已經跳過 RTX 30 、 RTX 40 兩代,在這之前都有傳聞會推出該頂峰旗艦的顯卡,不過最終大概因為沒有對手而取消,但據傳這一代的 RTX 50 上面將會有 TITAN 型號。 來源表示,基於 Blackwell 架構的新 TITAN 確實正在開發,不過在 Ada Lovelace 那一代 RTX 40 也證實有開發但未上市,主要是缺乏競爭性以及生產成本太高,綜合考量下最後告吹。 NVIDIA TITAN 最初設計是針對遊戲玩家,不過後來由於效能以及搭配大容量記憶體而提升了內容創作方面的價值,NVIDIA...
  7. soothepain

    AI 應用 NVIDIA 在新的 MLPerf 訓練基準測試達到了近 100% 的擴充效率

    全端NVIDIA加速運算平台在最新的MLPerf Training v4.0基準測試中再次展現出卓越的效能。 與去年 NVIDIA 提交創新紀錄的數據相比,NVIDIA 在基於 GPT-3 175B 的大型語言模型(LLM)基準測試中的表現,提升了三倍以上。 NVIDIA 使用配備11,616 個NVIDIA H100 Tensor Core GPU 並與NVIDIA Quantum-2 InfiniBand 網路連接的人工智慧(AI)超級電腦,透過更大規模(比一年前提交的3,584 個H100 GPU 增加三倍多)和廣泛的全端工程實現了這項非凡壯舉。 由於 NVIDIA AI...
  8. soothepain

    顯示卡 RTX 50 系列 GPU Blackwell 採台積電 3nm, 還有 DP2.1 接口

    近日有網友透露,基於 Blackwell 架構的 RTX 50 系列 GPU 將改用台積電 TSMC 3nm 製程製造。根據台積電的說法,比起現有的 5nm 製程節點,在相同功耗和電晶體數量情況下,3nm 製程節點能帶來 15% 的效能提升。 RTX 50 系列 GPU 另一個重要更新是支援 DisplayPort 2.1 ,但暫時還不清楚具體是哪個標準。AMD 已經在現有 RDNA 3 架構的 RX 7000 系列上引入了對 DisplayPort 2.1 的支持,滿足了 UHBR13.5 連結速率(54Gbps)的要求,如果是用於工作站的 Radeon Pro W7000...
  9. soothepain

    顯示卡 NVIDIA RTX 50 旗艦 GB202 Blackwell GPU + GDDR7

    NVIDIA RTX 50 系列將會基於 Blackwell 架構設計,預計可能會用上與 RTX 40 類似的散熱器設計,新一代旗艦還可能會用上 GDDR7 記憶體來提高頻寬。 傳聞 RTX 50 系列的旗艦顯卡將採用 GB202 GPU,這個核心最大為192個 SM 配置,在 GPU 架構沒有重大修改的情況下,為24576個 CUDA,不過這是該核心未閹割的規格,而不是旗艦可能型號 RTX 5090 顯卡的配置,因為目前 RTX 4090 也不是完整的 AD102。 記憶體配置據傳會升級為 GDDR7 來提升頻寬,Micron 在稍早前新聞也表示會在2024上半年推出...
  10. soothepain

    顯示卡 NVIDIA RTX 50 將採 Blackwell 架構, 3nm、支援 GDDR7 或 GDDR6W

    近期出現了有關 NVIDIA 下一代 GeForce RTX 50 系列的新傳言,預計將採用 Blackwell 架構 GPU,效能相較於 RTX 40 Ada Lovelace 架構可能達到翻倍成長。 去年的 Arete 技術大會上, NVIDIA 副總裁兼加速計算首席總監 Ian Buck 重申了 NVIDIA 致力於每兩年更新主要 GPGPU 架構的計劃,確認 Blackwell 架構 GPU 將會在2024年推出。預計 GTC 2024 年可能是 Blackwell 架構將首次登場,伺服器產品會先於 GeForce 顯卡出現。 據最近網路消息,用於 RTX 50 系列的...