inclusionAI Releases GGUF Builds of SingVL S1 4B
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
inclusionAI has released GGUF quantized versions of Sing VL S1, a 4B-parameter multimodal decision model built on Qwen3.5, enabling CPU inference through llama.cpp. The release ships three decoder variants — BF16 (8.42 GB), Q8_0 (4.48 GB) and Q4_K_M (2.71 GB) — alongside a shared F16 vision projector, with a default context of 4096 tokens that includes image tokens. The included backend runs on Linux x86_64 CPU. Validation so far covers 9 examples and 11 questions across the three variants. Full public scores for the GGUF builds are still pending, so the quantized versions' benchmark performance has not yet been published.
สร้างจากรายงาน · อัปเดต 11 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- inclusionAI Modelsเปิดตัว SingVL-4B GGUF: บิลด์ GGUF ของโมเดลตัดสินใจมัลติโหมดัล Sing VL S1 4B บน Qwen3.5
Sing VL S1 โมเดลตัดสินใจมัลติโหมดัลขนาด 4B พารามิเตอร์ที่สร้างบน Qwen3.5 ขณะนี้มี GGUF release สำหรับการอนุมานบน CPU ผ่าน llama.cpp แล้ว จัดส่งในรูปแบบ decoder BF16 (8.42 GB), Q8_0 (4.48 GB) และ Q4_K_M (2.71 GB) พร้อม vision projector F16 ที่ใช้ร่วมกัน โดยมี context ขนาด 4096 โทเคนเป็นค่าเริ่มต้น การตรวจสอบ GGUF ครอบคลุม 9 ตัวอย่างและ 11 คำถาม คะแนนสาธารณะแบบเต็มสำหรับ GGUF variants ยังอยู่ระหว่างรอ
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม