Dự án NIL-3B phát hành trọng số GGUF cho suy luận cục bộ
Bắt đầu từ đây
Dự án NIL-3B đã công bố bản dựng GGUF, nil-3b-q4_k_m.gguf, để mô hình có thể chạy cục bộ với một runtime suy luận tương thích GGUF. Người dùng cài đặt các phụ thuộc và chạy `python -m src.chat`, lệnh này mong đợi tệp GGUF nằm ở thư mục gốc của dự án. Kho lưu trữ nêu rõ rằng LICENSE ở thư mục gốc chỉ bao phủ mã nguồn của dự án và tự nó không xác nhận giấy phép hay quyền phân phối lại đối với trọng số mô hình hoặc dữ liệu huấn luyện. Kho cũng yêu cầu xác nhận các quyền đó và ghi tài liệu về mô hình cơ sở, dữ liệu huấn luyện và các khả năng được hỗ trợ của mô hình trước khi kho lưu trữ được công khai.
Tạo từ các bài viết · cập nhật 12 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AINIL-3B Open Source Sovereign AI phát hành trọng số GGUF cho suy luận cục bộ
Dự án NIL-3B đã công bố bản dựng GGUF, nil-3b-q4_k_m.gguf, để chạy mô hình cục bộ với runtime suy luận tương thích GGUF. Người dùng cài đặt các phụ thuộc và chạy `python -m src.chat`, lệnh này yêu cầu tệp GGUF nằm ở thư mục gốc của dự án. Kho lưu trữ lưu ý LICENSE của nó chỉ bao phủ mã nguồn và không xác nhận giấy phép hoặc quyền phân phối lại đối với trọng số mô hình hoặc dữ liệu huấn luyện.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.