Unsloth 推出採用 Dynamic V3.1 量化的 Qwen3.8-27B GGUF

Unsloth 發布了以自家 Unsloth Dynamic V3.1（預覽版）演算法建構的更新版 Qwen3.8-27B GGUF 量化檔案。Unsloth 表示，在大多數基準測試上，包括 Terminal Bench 2.1、DeepSWE v1.1、LiveCodeBench v6、GPQA Diamond、MMLU-Pro 與 AIME25，新的量化版本在相同大小下準確率提升 5-10%。 從 2-bit 到 6-bit 的大多數量化的版本都已更新，但 3-bit 的 UD3 版本維持不變，因為 Unsloth 發現其表現與 UD3.1 相當。NVFP4 量化目前僅能在 vLLM 中執行，不支援 SGLang，且需要 NVIDIA Blackwell GPU，例如 RTX 50 系列、DGX Spark、B200 與 B300。 Unsloth 也對 GSQ-RCO 關於 ISTA 量化的基準測試說法提出異議，表示其進行了 14 次試驗，而對方估計僅進行 1 次，並得出相反的結論。Qwen3.8-27B 是一個 27B 稠密模型，具備視覺、推理能力與 256K 上下文視窗，可在 17GB RAM/VRAM 的環境中執行。

AI 依報導生成 · 38 分鐘前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。