NVIDIA Vera Rubin ra mắt tại MLPerf, thống trị Training v6.1 và dẫn đầu suy luận tác tử Endpoints
NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance
Nền tảng Vera Rubin của NVIDIA đã có màn ra mắt MLPerf với kết quả trên huấn luyện, hậu huấn luyện và suy luận tác tử, và NVIDIA là đơn vị gửi duy nhất có kết quả trên mọi benchmark MLPerf Training v6.1. Vera Rubin NVL72 đạt hiệu năng trên mỗi GPU cao gấp tối đa 2 lần so với GB300 NVL72, và trên benchmark DeepSeek-V3, nó mở rộng từ 256 lên 1.024 GPU với hiệu suất khoảng 97%, rút ngắn thời gian huấn luyện từ 16 phút xuống còn khoảng bốn phút. Trong lần gửi MLPerf Endpoints đầu tiên, Vera Rubin NVL72 cho thấy thông lượng trên mỗi watt cao hơn 10 lần so với GB300 NVL72 trên một kết quả tác tử Kimi K3 tạm thời ở cùng tốc độ phản hồi, dù các kết quả đó đang chờ MLCommons xác minh.
Kết quả MLPerf đầu tiên của NVIDIA cho Vera Rubin cho thấy mức tăng huấn luyện trên mỗi GPU tối đa 2 lần so với GB300 và thông lượng trên mỗi watt cao hơn 10 lần trên suy luận tác tử, với các số liệu Endpoints vẫn còn tạm thời.
Nguồn:NVIDIA Blog · blogs.nvidia.com