NIL-3B Open Source Sovereign AI phát hành trọng số GGUF cho suy luận cục bộ

Dự án NIL-3B đã công bố bản dựng GGUF, nil-3b-q4_k_m.gguf, để chạy mô hình cục bộ với runtime suy luận tương thích GGUF. Người dùng cài đặt các phụ thuộc và chạy `python -m src.chat`, lệnh này yêu cầu tệp GGUF nằm ở thư mục gốc của dự án. Kho lưu trữ lưu ý LICENSE của nó chỉ bao phủ mã nguồn và không xác nhận giấy phép hoặc quyền phân phối lại đối với trọng số mô hình hoặc dữ liệu huấn luyện.