Hacker News · AI·· 42 分鐘前AI 評分20
律師將八張V100的私人AI伺服器升級，以4位元NVFP4執行80%的DeepSeek V4.1 Flash
Lawyer upgrades eight-V100 private AI server to run 80% of DeepSeek v4.1 Flash
AI 導讀
一名律師在八張二手Nvidia V100 GPU上運行私人AI伺服器，將其DeepSeek V4.1 Flash法律工作負載中約80%從2位元精度轉為4位元NVFP4精度，並加裝1TB記憶體與一張RTX 3090。程式碼輸出從每秒160–215個token降至150–180個token，但新組態遭遇的當機問題已消失，肇因很可能是電源供應器不良而非PCIe。
來源:Hacker News · AI · tomshardware.com