跳至正文
NVIDIA Blog· Shruti Koparkar·· 43 分鐘前精選AI 評分72

NVIDIA Vera Rubin 於 MLPerf 首度亮相,橫掃 Training v6.1 並領先 Endpoints 代理式推論

NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance

AI 導讀

NVIDIA 的 Vera Rubin 平台在 MLPerf 首度亮相,涵蓋訓練、後訓練與代理式推論的結果,且 NVIDIA 是唯一在每一項 MLPerf Training v6.1 基準測試都有結果的提交者。Vera Rubin NVL72 每 GPU 效能最高達 GB300 NVL72 的 2 倍,在 DeepSeek-V3 基準測試上從 256 顆 GPU 擴展到 1,024 顆 GPU,效率約 97%,將訓練時間從 16 分鐘縮短至約 4 分鐘。在首次提交的 MLPerf Endpoints 中,Vera Rubin NVL72 在相同回應速度下,於暫定的 Kimi K3 代理式結果上展現出 GB300 NVL72 逾 10 倍的每瓦吞吐量,不過這些結果仍待 MLCommons 驗證。

推薦理由

NVIDIA 針對 Vera Rubin 的首批 MLPerf 結果顯示,每 GPU 訓練效能最高達 GB300 的 2 倍,代理式推論的每瓦吞吐量逾 10 倍,而 Endpoints 的數據仍為暫定。

來源:NVIDIA Blog · blogs.nvidia.com