inclusionAI phát hành bản dựng GGUF của SingVL S1 4B
Bắt đầu từ đây
inclusionAI đã phát hành các phiên bản lượng tử hóa GGUF của Sing VL S1, một mô hình quyết định đa phương thức 4B tham số xây dựng trên Qwen3.5, cho phép suy luận trên CPU thông qua llama.cpp. Bản phát hành cung cấp ba biến thể decoder — BF16 (8,42 GB), Q8_0 (4,48 GB) và Q4_K_M (2,71 GB) — cùng với một vision projector F16 dùng chung, với ngữ cảnh mặc định 4096 token bao gồm cả token hình ảnh. Backend đi kèm chạy trên CPU Linux x86_64. Quá trình kiểm chứng đến nay bao gồm 9 ví dụ và 11 câu hỏi trên ba biến thể. Điểm số công khai đầy đủ cho các bản dựng GGUF vẫn đang chờ, nên hiệu năng benchmark của các phiên bản lượng tử hóa chưa được công bố.
Tạo từ các bài viết · cập nhật 12 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- inclusionAI ModelsSingVL-4B GGUF ra mắt: Bản dựng GGUF của mô hình quyết định đa phương thức Sing VL S1 4B trên Qwen3.5
Sing VL S1, một mô hình quyết định đa phương thức 4 tỷ tham số được xây dựng trên Qwen3.5, nay đã có bản phát hành GGUF cho suy luận CPU với llama.cpp. Nó được phát hành với các bộ giải mã BF16 (8,42 GB), Q8_0 (4,48 GB) và Q4_K_M (2,71 GB) cùng một bộ chiếu thị giác F16 dùng chung, với ngữ cảnh mặc định 4096 token. Kiểm định GGUF bao gồm 9 ví dụ và 11 câu hỏi; điểm số công khai đầy đủ cho các biến thể GGUF vẫn đang chờ.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.