Modal Blog· Erik Dunteman·· 25 天前AI 评分58
Modal 对 NVIDIA Vera CPU 进行基准测试:负载下沙箱吞吐量最高提升至 2 倍
NVIDIA Vera CPUs double throughput for Modal Sandboxes
AI 导读
Modal 对 NVIDIA 新款 Arm 兼容 Vera CPU 服务器进行了基准测试,测得任务吞吐量最高可达同等 x86 GNR 机器的两倍,且单任务延迟持平、有时更低。结果来自 Agentless Agent Bench、50 个 Terminal-Bench oracle 解决方案与验证器,这些内容已移除网络调用,并在并发 Docker 容器中运行。Modal 将这一提升归因于 Vera 在并发容器累积时仍能保持节奏,并将其与高内存带宽联系起来,同时表示支持 Arm 需要在其基础设施和镜像构建系统上做出改动。
来源:Modal Blog · modal.com