DeepSeek mã nguồn mở DeepEP-Ascend cho NPU Huawei Ascend
Bắt đầu từ đây
DeepSeek đã mã nguồn mở DeepEP-Ascend, một thư viện truyền thông phục vụ huấn luyện và suy luận trên NPU Huawei Ascend. Thư viện cung cấp all-to-all song song chuyên gia cho MoE dispatch và combine, với dispatch FP8 và epilogue hoãn lại, cùng song song pipeline thử nghiệm, collective Bucket CP/DP và truy cập bộ nhớ từ xa Engram. Các API buffer công khai khớp với phiên bản NVIDIA của DeepEP. Trên Ascend 950DT với CANN 9.2.0, DeepSeek báo cáo dispatch đạt 373–375 GB/s ở EP8 và 313–320 GB/s ở EP128, trong khi combine giảm từ 345–347 GB/s xuống 272–278 GB/s. Các tác giả cho biết các kích thước EP lớn hơn và combine vẫn đang được tối ưu hóa. Những con số này được đo trên một HDK proof-of-concept được cung cấp cho DeepSeek với cấu hình thủ công bổ sung. DeepSeek hướng người dùng đến bản phát hành HDK thương mại Q3 của Huawei cho Atlas 850E, dự kiến vào khoảng ngày 15 tháng 10 năm 2026, thông qua trang tải phần mềm Atlas 850E của Huawei, nơi có thể yêu cầu quyền truy cập.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIDeepSeek phát hành DeepEP-Ascend, thư viện truyền thông expert-parallel cho NPU Huawei Ascend
DeepSeek đã phát hành DeepEP-Ascend, một thư viện truyền thông mã nguồn mở dùng cho huấn luyện và suy luận trên NPU Huawei Ascend, cung cấp all-to-all expert-parallel cho MoE dispatch và combine với FP8 dispatch và deferred epilogue, cùng với PP thử nghiệm, các collective Bucket CP/DP và truy cập bộ nhớ từ xa Engram. Đo trên Ascend 950DT với CANN 9.2.0, dispatch đạt 373–375 GB/s ở EP8 và 313–320 GB/s ở EP128, trong khi combine giảm từ 345–347 GB/s xuống 272–278 GB/s. Các API buffer công khai tương thích với phiên bản NVIDIA của DeepEP, và các tác giả lưu ý rằng kích thước EP lớn hơn và combine vẫn đang được tối ưu hóa.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.