DeepSeek 為華為昇騰 NPU 開源 DeepEP-Ascend
先了解這件事
DeepSeek 已開源 DeepEP-Ascend,這是一個用於在華為昇騰 NPU 上進行訓練與推理的通訊庫。它為 MoE dispatch 與 combine 提供專家並行的 all-to-all,支援 FP8 dispatch 與延遲 epilogue,另含實驗性的流水線並行、Bucket CP/DP 集合通訊與 Engram 遠端記憶體存取。其公開 buffer API 與 NVIDIA 版 DeepEP 一致。 在搭載 CANN 9.2.0 的昇騰 950DT 上,DeepSeek 報告 EP8 時 dispatch 為 373–375 GB/s、EP128 時為 313–320 GB/s,而 combine 則從 345–347 GB/s 降至 272–278 GB/s。作者表示,更大的 EP 規模與 combine 仍在最佳化中。 上述數據是在提供給 DeepSeek 的概念驗證 HDK 上、經額外手動配置後測得。DeepSeek 建議使用者關注華為針對 Atlas 850E 的第三季商用 HDK 版本,預計於 2026 年 10 月 15 日左右發布,可透過華為 Atlas 850E 軟體下載頁面申請取得。
AI 依報導生成 · 1 小時前更新
報導時間線
沿著報導,了解事件的不同側面。
- Hacker News · AIDeepSeek 發布 DeepEP-Ascend,專為華為昇騰 NPU 設計的專家平行通訊函式庫
DeepSeek 發布 DeepEP-Ascend,這是一套用於在華為昇騰 NPU 上訓練與推論的開源通訊函式庫,提供專家平行 all-to-all,用於 MoE dispatch 與 combine,並支援 FP8 dispatch 與延遲 epilogue,另含實驗性 PP、Bucket CP/DP 集合通訊與 Engram 遠端記憶體存取。在搭載 CANN 9.2.0 的昇騰 950DT 上實測,dispatch 在 EP8 達到 373–375 GB/s、在 EP128 達到 313–320 GB/s,而 combine 則從 345–347 GB/s 降至 272–278 GB/s。公開的 buffer API 與 NVIDIA 版 DeepEP 一致,作者指出更大的 EP 規模與 combine 仍在最佳化中。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。