ข้ามไปที่เนื้อหา
Hacker News · AI·· 1 ชม. ที่แล้วคะแนน AI22

NIL-3B โอเพนซอร์ส Sovereign AI ปล่อยน้ำหนัก GGUF สำหรับการอนุมานในเครื่อง

Nil-3B Open Source Sovereign AI

สรุปโดย AI

โปรเจกต์ NIL-3B ได้เผยแพร่บิลด์ GGUF ชื่อ nil-3b-q4_k_m.gguf สำหรับรันโมเดลในเครื่องด้วยรันไทม์การอนุมานที่รองรับ GGUF ผู้ใช้ติดตั้ง dependencies แล้วรัน `python -m src.chat` ซึ่งคาดหวังไฟล์ GGUF ไว้ที่ root ของโปรเจกต์ รีโประบุว่า LICENSE ครอบคลุมเฉพาะซอร์สโค้ด และไม่ได้ยืนยันสิทธิ์ด้านไลเซนส์หรือการเผยแพร่ต่อสำหรับน้ำหนักโมเดลหรือข้อมูลฝึก

แหล่งข่าว:Hacker News · AI · huggingface.co