ความสัมพันธ์แบบพึ่งพากันของ Huawei-DeepSeek: ผลทดสอบ Ascend 950PR และการรองรับ Ascend Kernel ของ DeepSeek

SemiAnalysis ตรวจสอบความร่วมมือระหว่าง Huawei และ DeepSeek โดยทดสอบ Ascend 950PR (28 cube cores, 128 GiB HBM) และทบทวนการเปิดตัวเมื่อวันที่ 30 กันยายนของ DeepSeek ที่รองรับ Ascend สำหรับ TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA และ DeepSelect 950PR ทำความเร็วสูงสุดของแบนด์วิดท์ HBM ได้ 1.6384 TB/s และเอาชนะการใช้แบนด์วิดท์ของ H100 ที่ขนาดข้อความเล็ก ขณะที่ค่ามัธยฐานของสัดส่วนคอมพิวต์ที่ทำได้เทียบกับที่ทำได้สูงสุดอยู่ที่ 41.5% เทียบกับ 46.8% ของ H100; มีเพียง TileLang ที่ใช้งานได้จริงจนถึงตอนนี้ เนื่องจาก CANN 9.2.0 ที่จำเป็นยังไม่เปิดตัวในขณะที่เขียน ผู้เขียนโต้แย้งว่าซอฟต์แวร์สแตกนั้นใกล้ถึงแนวหน้าแม้ฮาร์ดแวร์ของ Huawei จะตามหลังอยู่ และตั้งข้อสังเกตว่าการปรับแต่งส่วนใหญ่พุ่งเป้าไปที่ supernodes โดย vLLM-Ascend ยังคงล้มเหลวตั้งแต่แรกบนโฮสต์ x86