ข้ามไปที่เนื้อหา
inclusionAI Models·· 18 ชม. ที่แล้วคะแนน AI38

เปิดตัว SingVL-4B GGUF: บิลด์ GGUF ของโมเดลตัดสินใจมัลติโหมดัล Sing VL S1 4B บน Qwen3.5

inclusionAI/SingVL_S1_4B_GGUF

สรุปโดย AI

Sing VL S1 โมเดลตัดสินใจมัลติโหมดัลขนาด 4B พารามิเตอร์ที่สร้างบน Qwen3.5 ขณะนี้มี GGUF release สำหรับการอนุมานบน CPU ผ่าน llama.cpp แล้ว จัดส่งในรูปแบบ decoder BF16 (8.42 GB), Q8_0 (4.48 GB) และ Q4_K_M (2.71 GB) พร้อม vision projector F16 ที่ใช้ร่วมกัน โดยมี context ขนาด 4096 โทเคนเป็นค่าเริ่มต้น การตรวจสอบ GGUF ครอบคลุม 9 ตัวอย่างและ 11 คำถาม คะแนนสาธารณะแบบเต็มสำหรับ GGUF variants ยังอยู่ระหว่างรอ

แหล่งข่าว:inclusionAI Models · huggingface.co