Tới nội dung
Sự việc nóngĐang diễn ra

NVIDIA Vera Rubin ra mắt trong MLPerf, dẫn đầu cả Training và Endpoints

1 bài viết1 nguồn đưa tinCập nhật 43 phút trước

Bắt đầu từ đây

Tóm tắt AI

Nền tảng Vera Rubin của NVIDIA đã có màn ra mắt đầu tiên trong MLPerf, và NVIDIA cho biết đây là đơn vị gửi kết quả duy nhất có kết quả trên mọi bài đo chuẩn MLPerf Training v6.1. Theo NVIDIA, Vera Rubin NVL72 đạt hiệu năng trên mỗi GPU cao hơn tới 2 lần so với GB300 NVL72, và trên bài đo chuẩn DeepSeek-V3, nó mở rộng từ 256 lên 1.024 GPU với hiệu suất khoảng 97%, rút ngắn thời gian huấn luyện từ 16 phút xuống còn khoảng bốn phút. Trong lần gửi kết quả MLPerf Endpoints đầu tiên, NVIDIA báo cáo Vera Rubin NVL72 cho thấy thông lượng trên mỗi watt cao hơn hơn 10 lần so với GB300 NVL72 trên một kết quả tác tử Kimi K3 tạm thời ở cùng tốc độ phản hồi, được đo tại mức tương tác trung bình đầu-cuối tối thiểu chung là 50 token mỗi giây mỗi người dùng. Các kết quả Endpoints của Vera Rubin là tạm thời và đang chờ MLCommons xác minh và đánh giá đồng cấp; NVIDIA cho biết các kết quả GB300 đã được MLCommons xác minh.

Tạo từ các bài viết · cập nhật 34 phút trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

17 tháng 11
  1. NVIDIA BlogTuyển chọn
    NVIDIA Vera Rubin ra mắt tại MLPerf, thống trị Training v6.1 và dẫn đầu suy luận tác tử Endpoints

    Nền tảng Vera Rubin của NVIDIA đã có màn ra mắt MLPerf với kết quả trên huấn luyện, hậu huấn luyện và suy luận tác tử, và NVIDIA là đơn vị gửi duy nhất có kết quả trên mọi benchmark MLPerf Training v6.1. Vera Rubin NVL72 đạt hiệu năng trên mỗi GPU cao gấp tối đa 2 lần so với GB300 NVL72, và trên benchmark DeepSeek-V3, nó mở rộng từ 256 lên 1.024 GPU với hiệu suất khoảng 97%, rút ngắn thời gian huấn luyện từ 16 phút xuống còn khoảng bốn phút. Trong lần gửi MLPerf Endpoints đầu tiên, Vera Rubin NVL72 cho thấy thông lượng trên mỗi watt cao hơn 10 lần so với GB300 NVL72 trên một kết quả tác tử Kimi K3 tạm thời ở cùng tốc độ phản hồi, dù các kết quả đó đang chờ MLCommons xác minh.

Độ nóng của sự việc này

Chưa đủ quan sát liên tục để vẽ xu hướng.