公司與模型
阿里千問 Qwen 系列的模型釋出與開源更新，從旗艦大模型到能裝進手機的小模型。
2 條精選近 30 天 0 條共收錄 4 條
Qwen3.8-2.4T-A95B 已作為開源權重模型發布，並同步在 Modal 上線。Modal 表示其與 Qwen 在發布前合作，透過 SGLang 和針對 Qwen3.8 形狀調校的定製 DFlash 推測器，為 Modal Auto Endpoints 提供 day zero 支援。
推薦理由：Modal 在 Qwen3.8-2.4T-A95B 開源權重發布當天即上線共享端點，並說明其定製 DFlash 推測器如何針對該模型的形狀提升推理速度。
Modal 在 Hugging Face 上發布了一系列針對 Qwen 系列的 DFlash 草稿模型，包括 Qwen 3.6 35B-A3B-DFlash 以及從 4B 到 122B-A10B 的 Qwen 3.5 變體，另外還有一個用 SGLang 構建的 Qwen 3.5 397B-A17B 的 DFlash 推測器。該公司表示，新的草稿模型比現有的 DFlash 基線額外提速 5-20%，並且可以在 B200 節點上以並發度 1 運行 Qwen 3.5 122B-A10B 達到超過 1000 tok/s，而無推測時為 250 tok/s。文章認為，在內核優化只能帶來幾個百分點提升的地方，推測解碼可帶來 2 倍至 3 倍的增益，並提出了一個用於根據接受長度估算加速比的 roofline 模型。
推薦理由：Modal 解釋了為何押注推測解碼，並發布了針對 Qwen 系列的 DFlash 草稿模型，附帶實測加速數據和用於估算增益的 roofline 模型。