Hacker News · AI·· 1 ชม. ที่แล้วคะแนน AI22
NIL-3B โอเพนซอร์ส Sovereign AI ปล่อยน้ำหนัก GGUF สำหรับการอนุมานในเครื่อง
Nil-3B Open Source Sovereign AI
สรุปโดย AI
โปรเจกต์ NIL-3B ได้เผยแพร่บิลด์ GGUF ชื่อ nil-3b-q4_k_m.gguf สำหรับรันโมเดลในเครื่องด้วยรันไทม์การอนุมานที่รองรับ GGUF ผู้ใช้ติดตั้ง dependencies แล้วรัน `python -m src.chat` ซึ่งคาดหวังไฟล์ GGUF ไว้ที่ root ของโปรเจกต์ รีโประบุว่า LICENSE ครอบคลุมเฉพาะซอร์สโค้ด และไม่ได้ยืนยันสิทธิ์ด้านไลเซนส์หรือการเผยแพร่ต่อสำหรับน้ำหนักโมเดลหรือข้อมูลฝึก
แหล่งข่าว:Hacker News · AI · huggingface.co