跳到正文
Hacker News · AI·· 1 小时前AI 评分22

NIL-3B 开源主权 AI 发布用于本地推理的 GGUF 权重

Nil-3B Open Source Sovereign AI

AI 导读

NIL-3B 项目已发布 GGUF 构建版本 nil-3b-q4_k_m.gguf,可通过兼容 GGUF 的推理运行时在本地运行该模型。用户安装依赖后运行 `python -m src.chat`,该命令要求 GGUF 文件位于项目根目录。仓库说明其 LICENSE 仅覆盖源代码,并未确认模型权重或训练数据的许可或再分发权利。

来源:Hacker News · AI · huggingface.co