Tới nội dung
Sự việc nóngĐang diễn ra

Riptide đo hiệu năng các kernel attention GPU của mình so với kernel của AMD trên MI350X

1 bài viết1 nguồn đưa tinCập nhật 2 giờ trước

Bắt đầu từ đây

Tóm tắt AI

Riptide công bố kết quả đo hiệu năng các kernel attention GPU của mình so với kernel của chính AMD trên AMD Instinct MI350X, báo cáo cả thắng lẫn thua kèm khoảng tin cậy 95% và kiểm tra tính đúng đắn bằng float64. Kernel của họ đạt 3,32× so với mức tốt nhất của AMD ở head dim 128, huấn luyện causal với S=512, nhưng giảm xuống 0,82–0,84× ở 16k token với head dim 128 bf16. Các kernel không phải mã nguồn mở; Riptide cung cấp chúng cho đối tác để đánh giá và cấp phép.

Tạo từ các bài viết · cập nhật 2 giờ trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

20 tháng 11
  1. Hacker News · AI
    Riptide đo điểm chuẩn các kernel attention GPU của mình so với kernel của chính AMD trên MI350X, công bố mọi kết quả thua

    Riptide đã công bố kết quả đo điểm chuẩn các kernel attention GPU của mình so với kernel của chính AMD trên AMD Instinct MI350X, báo cáo cả thắng lẫn thua với khoảng tin cậy 95% và kiểm tra tính đúng đắn bằng float64. Các kernel của họ đạt 3,32× so với mức tốt nhất của AMD ở head dim 128 huấn luyện causal với S=512, nhưng giảm xuống 0,82–0,84× ở 16k token với head dim 128 bf16. Các kernel này không phải mã nguồn mở và được cung cấp cho đối tác để đánh giá và cấp phép.

Độ nóng của sự việc này

Hiện tại, trong khoảng so sánh được
9
Đỉnh, trong khoảng so sánh được
1020 tháng 11 05:00
Thay đổi trong 24 giờ
–

Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.