ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

Riptide ทดสอบประสิทธิภาพ GPU attention kernels ของตนเทียบกับของ AMD บน MI350X

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 2 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Riptide เผยแพร่ผลการทดสอบที่วัดได้ของ GPU attention kernels ของตนเทียบกับ kernels ของ AMD เองบน AMD Instinct MI350X โดยรายงานทั้งจุดที่ชนะและแพ้ พร้อมช่วงความเชื่อมั่น 95% และการตรวจสอบความถูกต้องแบบ float64 kernels ของตนทำได้ถึง 3.32× ของค่าที่ดีที่สุดของ AMD ใน head dim 128 causal training ที่ S=512 แต่ลดลงเหลือ 0.82–0.84× ที่ 16k tokens สำหรับ head dim 128 bf16 kernels เหล่านี้ไม่ใช่โอเพนซอร์ส Riptide เสนอให้พาร์ตเนอร์ประเมินและขอรับสิทธิ์ใช้งาน

สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

20 พฤศจิกายน
  1. Hacker News · AI
    Riptide ทดสอบประสิทธิภาพเคอร์เนล GPU attention เทียบกับของ AMD บน MI350X พร้อมเผยผลแพ้ทุกกรณี

    Riptide เผยแพร่ผลการทดสอบประสิทธิภาพเคอร์เนล GPU attention ของตนเทียบกับเคอร์เนลของ AMD บน AMD Instinct MI350X โดยรายงานทั้งกรณีชนะและแพ้พร้อมช่วงความเชื่อมั่น 95% และการตรวจสอบความถูกต้องด้วย float64 เคอร์เนลของบริษัททำได้ 3.32 เท่าของค่าที่ดีที่สุดของ AMD ในการฝึกแบบ causal ที่ head dim 128 ด้วย S=512 แต่ลดลงเหลือ 0.82–0.84 เท่าที่ 16k โทเคนสำหรับ head dim 128 bf16 เคอร์เนลเหล่านี้ไม่ใช่โอเพนซอร์สและเปิดให้พาร์ตเนอร์ประเมินและขอรับสิทธิ์ใช้งาน

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
9
จุดสูงสุดในช่วงที่เทียบได้
1020 พฤศจิกายน 05:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู