DeepSeek เปิดตัว DeepEP-Ascend ไลบรารีสื่อสารแบบ expert-parallel สำหรับ NPU Huawei Ascend

DeepSeek เปิดตัว DeepEP-Ascend ไลบรารีสื่อสารโอเพนซอร์สสำหรับการเทรนและการอนุมานบน NPU Huawei Ascend โดยมี all-to-all แบบ expert-parallel สำหรับ MoE dispatch และ combine พร้อม FP8 dispatch และ deferred epilogue รวมถึง PP แบบทดลอง, collective แบบ Bucket CP/DP และการเข้าถึงหน่วยความจำระยะไกล Engram จากการวัดบน Ascend 950DT กับ CANN 9.2.0 พบว่า dispatch ทำได้ 373–375 GB/s ที่ EP8 และ 313–320 GB/s ที่ EP128 ขณะที่ combine ลดลงจาก 345–347 GB/s เหลือ 272–278 GB/s API ของบัฟเฟอร์สาธารณะสอดคล้องกับ DeepEP เวอร์ชัน NVIDIA และผู้เขียนระบุว่าขนาด EP ที่ใหญ่ขึ้นและ combine ยังอยู่ระหว่างการปรับปรุง