Cộng sinh Huawei-DeepSeek: Điểm chuẩn Ascend 950PR và hỗ trợ Ascend Kernel của DeepSeek

SemiAnalysis xem xét quan hệ đối tác Huawei-DeepSeek, đánh giá điểm chuẩn Ascend 950PR (28 lõi cube, 128 GiB HBM) và xem xét bản phát hành ngày 30 tháng 9 của DeepSeek về hỗ trợ Ascend cho TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA và DeepSelect. 950PR đạt băng thông HBM đỉnh 1,6384 TB/s và vượt hiệu suất sử dụng băng thông của H100 ở kích thước tin nhắn nhỏ, trong khi tỷ lệ phần tính toán đạt được/khả thi trung vị của nó là 41,5% so với 46,8% của H100; chỉ TileLang là khả dụng cho đến nay vì CANN 9.2.0 cần thiết chưa được phát hành tại thời điểm viết. Các tác giả lập luận rằng ngăn xếp phần mềm gần mức tiên tiến ngay cả khi phần cứng Huawei còn kém hơn, và lưu ý rằng hầu hết các tối ưu hóa nhắm vào supernode, với vLLM-Ascend vẫn thất bại ngay khi chạy trên máy chủ x86.