inclusionAI 發布 ZoomGain-9B 的 GGUF 權重
inclusionAI 已發布 ZoomGain-9B 的 GGUF 格式權重,透過 llama.cpp 轉換,涵蓋語言模型與視覺編碼器/投影器(mmproj),提供 FP16、Q8_0 與 Q4_K_M 版本。影像輸入需將語言模型與對應的 mmproj 檔案配對使用,該儲存庫說明了透過 llama-mtmd-cli 進行命令列推論,以及透過 llama-server 架設網頁聊天的方式。需使用支援 Qwen3.5 多模態的 llama.cpp 建置版本,且量化可能影響準確度。