SemiAnalysis· Bryan Shan·· 23 天前AI 评分75
华为与DeepSeek的共生关系:昇腾950PR基准测试及DeepSeek的昇腾内核支持
The Huawei-DeepSeek Symbiosis
AI 导读
SemiAnalysis考察了华为与DeepSeek的合作关系,对昇腾950PR(28个cube核心、128 GiB HBM)进行了基准测试,并回顾了DeepSeek于9月30日发布的针对TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect的昇腾支持。950PR的峰值HBM带宽达到1.6384 TB/s,在小消息尺寸下带宽利用率超过H100,而其计算利用率中位数为41.5%,H100为46.8%;目前只有TileLang可用,因为所需的CANN 9.2.0在撰写时尚未发布。作者认为,尽管华为硬件落后,但其软件栈已接近前沿水平,并指出大多数优化针对超节点,而vLLM-Ascend在x86主机上仍无法开箱即用。
来源:SemiAnalysis · newsletter.semianalysis.com