ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

Unsloth ปล่อย GGUF ของ Qwen3.8-27B พร้อมการควอนไทซ์ Dynamic V3.1

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 49 นาทีที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Unsloth เผยแพร่การควอนไทซ์ GGUF ของ Qwen3.8-27B ฉบับปรับปรุง ซึ่งสร้างด้วยอัลกอริทึม Unsloth Dynamic V3.1 (preview) ของทางบริษัท Unsloth ระบุว่าควอนต์ใหม่ได้ความแม่นยำเพิ่มขึ้น 5-10% ที่ขนาดเท่าเดิมในเบนช์มาร์กส่วนใหญ่ รวมถึง Terminal Bench 2.1, DeepSWE v1.1, LiveCodeBench v6, GPQA Diamond, MMLU-Pro และ AIME25 ควอนต์ส่วนใหญ่ตั้งแต่ 2-bit ถึง 6-bit ได้รับการอัปเดต แต่เวอร์ชัน 3-bit UD3 ยังคงไม่เปลี่ยนแปลง เพราะ Unsloth พบว่ามีประสิทธิภาพทัดเทียมกับ UD3.1 ปัจจุบันควอนต์ NVFP4 ทำงานได้เฉพาะใน vLLM ไม่ใช่ SGLang และต้องใช้ GPU NVIDIA Blackwell เช่น RTX 50-series, DGX Spark, B200 และ B300 Unsloth ยังโต้แย้งข้อกล่าวอ้างด้านเบนช์มาร์กของ GSQ-RCO เกี่ยวกับควอนต์ ISTA โดยระบุว่าได้ทดลอง 14 ครั้ง เทียบกับประมาณหนึ่งครั้ง และได้ข้อสรุปที่ตรงกันข้าม Qwen3.8-27B เป็นโมเดล dense ขนาด 27B ที่มีความสามารถด้านภาพ การให้เหตุผล และหน้าต่างบริบท 256K ซึ่งทำงานได้บนเครื่องที่มี RAM/VRAM 17GB

สร้างจากรายงาน · อัปเดต 37 นาทีที่แล้ว

ล่าสุด14 พฤศจิกายน 08:06
Unsloth ปล่อย Qwen3.8-27B GGUFs พร้อมอัปเดต Dynamic V3.1 quantization

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

14 พฤศจิกายน
  1. Hacker News · AI
    Unsloth ปล่อย Qwen3.8-27B GGUFs พร้อมอัปเดต Dynamic V3.1 quantization

    Unsloth ปล่อย Qwen3.8-27B GGUFs เวอร์ชันอัปเดตที่สร้างด้วยอัลกอริทึม quantization Unsloth Dynamic V3.1 (preview) ซึ่งทางบริษัทระบุว่าช่วยเพิ่มความแม่นยำ 5-10% ที่ขนาดใกล้เคียงกันใน benchmark ส่วนใหญ่ รวมถึง Terminal Bench 2.1, DeepSWE v1.1, LiveCodeBench v6, GPQA Diamond, MMLU-Pro และ AIME25 มีการอัปเดต quant ตั้งแต่ 2-bit ถึง 6-bit ขณะที่ 3-bit UD3 ยังคงไม่เปลี่ยนแปลงเพราะมีประสิทธิภาพเทียบเท่า UD3.1 โพสต์ยังโต้แย้งข้อกล่าวอ้าง benchmark ของ GSQ-RCO เกี่ยวกับ ISTA quants โดยระบุว่า Unsloth ทดลอง 14 ครั้ง เทียบกับประมาณ 1 ครั้ง และได้ข้อสรุปตรงกันข้าม พร้อมระบุว่า Qwen3.8-27B เป็นโมเดล dense ขนาด 27B ที่มีความสามารถด้าน vision, reasoning และ context window 256K ซึ่งรันได้บนเครื่องที่มี RAM/VRAM 17GB

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม