跳至正文
Modal Blog· Erik Dunteman·· 25 天前AI 評分58

Modal 對 NVIDIA Vera CPU 進行基準測試:負載下沙箱吞吐量最高可達 2 倍

NVIDIA Vera CPUs double throughput for Modal Sandboxes

AI 導讀

Modal 對 NVIDIA 新款 Arm 相容的 Vera CPU 伺服器進行了基準測試,測得任務吞吐量最高可達同等 x86 GNR 機器的兩倍,且單一任務延遲持平、有時更低。結果來自 Agentless Agent Bench、50 個 Terminal-Bench oracle 解決方案與驗證器,這些項目已移除網路呼叫,並在並行 Docker 容器中執行。Modal 將此增益歸因於 Vera 在並行容器累積時仍能維持步調,並將其連結至高記憶體頻寬,同時表示支援 Arm 需要在其基礎設施與映像建置系統中進行變更。

來源:Modal Blog · modal.com