跳到正文
热点事件持续更新

DeepSeek 开源 DeepEP-Ascend,面向华为昇腾 NPU

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

DeepSeek 已开源 DeepEP-Ascend,这是一个用于在华为昇腾 NPU 上训练和推理的通信库。它为 MoE dispatch 和 combine 提供专家并行的 all-to-all,支持 FP8 dispatch 和延迟 epilogue,并提供实验性的流水线并行、Bucket CP/DP 集合通信以及 Engram 远程内存访问。公开的 buffer API 与 NVIDIA 版 DeepEP 保持一致。 在搭载 CANN 9.2.0 的昇腾 950DT 上,DeepSeek 报告称 EP8 下 dispatch 达到 373–375 GB/s,EP128 下为 313–320 GB/s,而 combine 从 345–347 GB/s 降至 272–278 GB/s。作者表示,更大的 EP 规模和 combine 仍在优化中。 这些数据是在提供给 DeepSeek 的概念验证 HDK 上测得的,并附加了额外的手动配置。DeepSeek 建议用户关注华为面向 Atlas 850E 的第三季度商用 HDK 发布,计划于 2026 年 10 月 15 日前后,通过华为 Atlas 850E 软件下载页面获取,可在该页面申请访问权限。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月15日
  1. Hacker News · AI
    DeepSeek 发布 DeepEP-Ascend,面向华为昇腾 NPU 的专家并行通信库

    DeepSeek 发布了 DeepEP-Ascend,这是一个用于在华为昇腾 NPU 上训练和推理的开源通信库,为 MoE dispatch 和 combine 提供专家并行 all-to-all,支持 FP8 dispatch 和延迟 epilogue,并提供实验性的 PP、Bucket CP/DP 集合通信以及 Engram 远程内存访问。在搭载 CANN 9.2.0 的昇腾 950DT 上实测,dispatch 在 EP8 下达到 373–375 GB/s,在 EP128 下达到 313–320 GB/s,而 combine 从 345–347 GB/s 降至 272–278 GB/s。公开的 buffer API 与 NVIDIA 版 DeepEP 保持一致,作者指出更大的 EP 规模和 combine 仍在优化中。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。