NVIDIA Vera Rubin ra mắt trong MLPerf, dẫn đầu cả Training và Endpoints
Bắt đầu từ đây
Nền tảng Vera Rubin của NVIDIA đã có màn ra mắt đầu tiên trong MLPerf, và NVIDIA cho biết đây là đơn vị gửi kết quả duy nhất có kết quả trên mọi bài đo chuẩn MLPerf Training v6.1. Theo NVIDIA, Vera Rubin NVL72 đạt hiệu năng trên mỗi GPU cao hơn tới 2 lần so với GB300 NVL72, và trên bài đo chuẩn DeepSeek-V3, nó mở rộng từ 256 lên 1.024 GPU với hiệu suất khoảng 97%, rút ngắn thời gian huấn luyện từ 16 phút xuống còn khoảng bốn phút. Trong lần gửi kết quả MLPerf Endpoints đầu tiên, NVIDIA báo cáo Vera Rubin NVL72 cho thấy thông lượng trên mỗi watt cao hơn hơn 10 lần so với GB300 NVL72 trên một kết quả tác tử Kimi K3 tạm thời ở cùng tốc độ phản hồi, được đo tại mức tương tác trung bình đầu-cuối tối thiểu chung là 50 token mỗi giây mỗi người dùng. Các kết quả Endpoints của Vera Rubin là tạm thời và đang chờ MLCommons xác minh và đánh giá đồng cấp; NVIDIA cho biết các kết quả GB300 đã được MLCommons xác minh.
Tạo từ các bài viết · cập nhật 34 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- NVIDIA BlogTuyển chọnNVIDIA Vera Rubin ra mắt tại MLPerf, thống trị Training v6.1 và dẫn đầu suy luận tác tử Endpoints
Nền tảng Vera Rubin của NVIDIA đã có màn ra mắt MLPerf với kết quả trên huấn luyện, hậu huấn luyện và suy luận tác tử, và NVIDIA là đơn vị gửi duy nhất có kết quả trên mọi benchmark MLPerf Training v6.1. Vera Rubin NVL72 đạt hiệu năng trên mỗi GPU cao gấp tối đa 2 lần so với GB300 NVL72, và trên benchmark DeepSeek-V3, nó mở rộng từ 256 lên 1.024 GPU với hiệu suất khoảng 97%, rút ngắn thời gian huấn luyện từ 16 phút xuống còn khoảng bốn phút. Trong lần gửi MLPerf Endpoints đầu tiên, Vera Rubin NVL72 cho thấy thông lượng trên mỗi watt cao hơn 10 lần so với GB300 NVL72 trên một kết quả tác tử Kimi K3 tạm thời ở cùng tốc độ phản hồi, dù các kết quả đó đang chờ MLCommons xác minh.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.