Hacker News · AI·· 3 小時前AI 評分38
Riptide 在 MI350X 上將其 GPU 注意力核心與 AMD 自家核心進行基準測試,並公開每一項落敗結果
Measured attention kernels vs. AMD's own on MI350X, with every loss published
AI 導讀
Riptide 公布了其在 AMD Instinct MI350X 上將其 GPU 注意力核心與 AMD 自家核心對比的實測基準,同時報告勝出與落敗的結果,並附上 95% 信賴區間與 float64 正確性檢查。在 head dim 128、S=512 的因果訓練中,其核心達到 AMD 最佳表現的 3.32 倍,但在 head dim 128 bf16、16k tokens 時降至 0.82–0.84 倍。這些核心並非開源,而是提供給合作夥伴進行評估與授權。
來源:Hacker News · AI · github.com