ข้ามไปที่เนื้อหา
Hacker News · AI·· 1 ชม. ที่แล้วคะแนน AI58

Unsloth ปล่อย Qwen3.8-27B GGUFs พร้อมอัปเดต Dynamic V3.1 quantization

Unsloth Qwen3.8-27B Quantizations – Dynamic v3.1 Update

สรุปโดย AI

Unsloth ปล่อย Qwen3.8-27B GGUFs เวอร์ชันอัปเดตที่สร้างด้วยอัลกอริทึม quantization Unsloth Dynamic V3.1 (preview) ซึ่งทางบริษัทระบุว่าช่วยเพิ่มความแม่นยำ 5-10% ที่ขนาดใกล้เคียงกันใน benchmark ส่วนใหญ่ รวมถึง Terminal Bench 2.1, DeepSWE v1.1, LiveCodeBench v6, GPQA Diamond, MMLU-Pro และ AIME25 มีการอัปเดต quant ตั้งแต่ 2-bit ถึง 6-bit ขณะที่ 3-bit UD3 ยังคงไม่เปลี่ยนแปลงเพราะมีประสิทธิภาพเทียบเท่า UD3.1 โพสต์ยังโต้แย้งข้อกล่าวอ้าง benchmark ของ GSQ-RCO เกี่ยวกับ ISTA quants โดยระบุว่า Unsloth ทดลอง 14 ครั้ง เทียบกับประมาณ 1 ครั้ง และได้ข้อสรุปตรงกันข้าม พร้อมระบุว่า Qwen3.8-27B เป็นโมเดล dense ขนาด 27B ที่มีความสามารถด้าน vision, reasoning และ context window 256K ซึ่งรันได้บนเครื่องที่มี RAM/VRAM 17GB

แหล่งข่าว:Hacker News · AI · unsloth.ai