Modal Blog· Erik Dunteman·· 25 天前AI 評分58
Modal 對 NVIDIA Vera CPU 進行基準測試:負載下沙箱吞吐量最高可達 2 倍
NVIDIA Vera CPUs double throughput for Modal Sandboxes
AI 導讀
Modal 對 NVIDIA 新款 Arm 相容的 Vera CPU 伺服器進行了基準測試,測得任務吞吐量最高可達同等 x86 GNR 機器的兩倍,且單一任務延遲持平、有時更低。結果來自 Agentless Agent Bench、50 個 Terminal-Bench oracle 解決方案與驗證器,這些項目已移除網路呼叫,並在並行 Docker 容器中執行。Modal 將此增益歸因於 Vera 在並行容器累積時仍能維持步調,並將其連結至高記憶體頻寬,同時表示支援 Arm 需要在其基礎設施與映像建置系統中進行變更。
來源:Modal Blog · modal.com