inclusionAI 发布 SingVL S1 4B 的 GGUF 构建版本

inclusionAI 已发布 Sing VL S1 的 GGUF 量化版本。Sing VL S1 是一个基于 Qwen3.5 构建的 4B 参数多模态决策模型，可通过 llama.cpp 在 CPU 上推理。此次发布提供三个解码器变体——BF16（8.42 GB）、Q8_0（4.48 GB）和 Q4_K_M（2.71 GB）——以及一个共享的 F16 视觉投影器，默认上下文为 4096 个 token，其中包含图像 token。所包含的后端可在 Linux x86_64 CPU 上运行。 目前的验证覆盖了三个变体上的 9 个示例和 11 个问题。GGUF 构建版本的完整公开评分尚未公布，因此量化版本的基准测试表现尚未发布。

AI 根据报道生成 · 13 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。