Unsloth 发布采用 Dynamic V3.1 量化的 Qwen3.8-27B GGUF
先了解这件事
Unsloth 发布了使用其 Unsloth Dynamic V3.1（预览版）算法构建的更新版 Qwen3.8-27B GGUF 量化模型。Unsloth 表示，在大多数基准测试中，包括 Terminal Bench 2.1、DeepSWE v1.1、LiveCodeBench v6、GPQA Diamond、MMLU-Pro 和 AIME25，新量化模型在相同体积下准确率提升 5-10%。 从 2-bit 到 6-bit 的大多数量化版本都已更新，但 3-bit 的 UD3 版本保持不变，因为 Unsloth 发现其表现与 UD3.1 相当。NVFP4 量化目前只能在 vLLM 中运行，不支持 SGLang，并且需要 NVIDIA Blackwell GPU，例如 RTX 50 系列、DGX Spark、B200 和 B300。 Unsloth 还对 GSQ-RCO 关于 ISTA 量化模型的基准测试结论提出异议，称其进行了 14 次试验，而对方估计只进行了 1 次，并得出了相反的结论。Qwen3.8-27B 是一个 27B 稠密模型，具备视觉、推理能力和 256K 上下文窗口，可在 17GB 内存/显存配置上运行。
AI 根据报道生成 · 38 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hacker News · AIUnsloth 发布 Qwen3.8-27B GGUF，带来 Dynamic V3.1 量化更新
Unsloth 发布了更新后的 Qwen3.8-27B GGUF，使用其 Unsloth Dynamic V3.1（预览版）量化算法构建。Unsloth 称，在大多数基准测试中，包括 Terminal Bench 2.1、DeepSWE v1.1、LiveCodeBench v6、GPQA Diamond、MMLU-Pro 和 AIME25，在相近体积下精度提升 5-10%。2-bit 到 6-bit 的量化版本均已更新，而 3-bit UD3 保持不变，因为其表现与 UD3.1 相当。该文章还反驳了 GSQ-RCO 关于 ISTA 量化版本的基准测试声明，称 Unsloth 进行了 14 次试验，而对方估计仅 1 次，并得出了相反结论；同时指出 Qwen3.8-27B 是一个 27B 稠密模型，具备视觉、推理能力和 256K 上下文窗口，可在 17GB 内存/显存配置上运行。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。