Riptide ทดสอบประสิทธิภาพ GPU attention kernels ของตนเทียบกับของ AMD บน MI350X
เริ่มตรงนี้
Riptide เผยแพร่ผลการทดสอบที่วัดได้ของ GPU attention kernels ของตนเทียบกับ kernels ของ AMD เองบน AMD Instinct MI350X โดยรายงานทั้งจุดที่ชนะและแพ้ พร้อมช่วงความเชื่อมั่น 95% และการตรวจสอบความถูกต้องแบบ float64 kernels ของตนทำได้ถึง 3.32× ของค่าที่ดีที่สุดของ AMD ใน head dim 128 causal training ที่ S=512 แต่ลดลงเหลือ 0.82–0.84× ที่ 16k tokens สำหรับ head dim 128 bf16 kernels เหล่านี้ไม่ใช่โอเพนซอร์ส Riptide เสนอให้พาร์ตเนอร์ประเมินและขอรับสิทธิ์ใช้งาน
สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIRiptide ทดสอบประสิทธิภาพเคอร์เนล GPU attention เทียบกับของ AMD บน MI350X พร้อมเผยผลแพ้ทุกกรณี
Riptide เผยแพร่ผลการทดสอบประสิทธิภาพเคอร์เนล GPU attention ของตนเทียบกับเคอร์เนลของ AMD บน AMD Instinct MI350X โดยรายงานทั้งกรณีชนะและแพ้พร้อมช่วงความเชื่อมั่น 95% และการตรวจสอบความถูกต้องด้วย float64 เคอร์เนลของบริษัททำได้ 3.32 เท่าของค่าที่ดีที่สุดของ AMD ในการฝึกแบบ causal ที่ head dim 128 ด้วย S=512 แต่ลดลงเหลือ 0.82–0.84 เท่าที่ 16k โทเคนสำหรับ head dim 128 bf16 เคอร์เนลเหล่านี้ไม่ใช่โอเพนซอร์สและเปิดให้พาร์ตเนอร์ประเมินและขอรับสิทธิ์ใช้งาน
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 9
- จุดสูงสุดในช่วงที่เทียบได้
- 1020 พฤศจิกายน 05:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู