NIL-3B 项目发布用于本地推理的 GGUF 权重

NIL-3B 项目已发布 GGUF 构建文件 nil-3b-q4_k_m.gguf，因此该模型可以在本地通过兼容 GGUF 的推理运行时运行。用户安装依赖后运行 `python -m src.chat`，该命令要求 GGUF 文件位于项目根目录。 仓库说明其根目录的 LICENSE 仅覆盖项目源代码，本身并不确认模型权重或训练数据的许可证或再分发权利。仓库还要求，在将仓库公开之前，应先确认这些权利，并记录模型的基础模型、训练数据和支持的能力。

AI 根据报道生成 · 27 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。