跳至正文
Hacker News · AI·· 1 小時前AI 評分22

NIL-3B 開源主權 AI 發布 GGUF 權重供本地推論

Nil-3B Open Source Sovereign AI

AI 導讀

NIL-3B 專案已發布 GGUF 版本 nil-3b-q4_k_m.gguf,可搭配相容 GGUF 的推論執行環境在本地執行模型。使用者安裝相依套件後執行 `python -m src.chat`,該指令預期 GGUF 檔案位於專案根目錄。該儲存庫註明其 LICENSE 僅涵蓋原始碼,並未確認模型權重或訓練資料的授權或再散布權利。

來源:Hacker News · AI · huggingface.co