Tới nội dung
Hacker News · AI·· 42 phút trướcĐiểm AI20

Luật sư nâng cấp máy chủ AI riêng tám V100 để chạy 80% DeepSeek V4.1 Flash ở độ chính xác 4-bit NVFP4

Lawyer upgrades eight-V100 private AI server to run 80% of DeepSeek v4.1 Flash

Tóm tắt bằng AI

Một luật sư vận hành máy chủ AI riêng trên tám GPU Nvidia V100 đã qua sử dụng đã chuyển khoảng 80% khối lượng công việc pháp lý của DeepSeek V4.1 Flash từ độ chính xác 2-bit sang 4-bit NVFP4, bổ sung thêm 1TB RAM và một RTX 3090. Tốc độ xuất mã giảm từ 160–215 xuống 150–180 token mỗi giây, nhưng các sự cố treo máy ảnh hưởng đến bản dựng mới đã biến mất, với nguyên nhân có khả năng là bộ nguồn (PSU) hỏng chứ không phải PCIe.

Nguồn:Hacker News · AI · tomshardware.com