跳到正文
Modal Blog·· 8 天前AI 评分22

Snorkel 如何借助 Modal 运行逼真的智能体模拟

How Snorkel runs realistic agent simulations with Modal

AI 导读

Snorkel 使用 Modal 的 GPU 和 CPU 沙箱每月运行数百万次智能体模拟,高峰时每小时可达数万个沙箱,并依赖 Modal 对其评估的开源权重模型进行推理。采用 Modal 的内存突发功能后,Snorkel 的沙箱总账单降低了约 20%,目前约 10-15% 的沙箱使用了突发功能。Modal 是唯一能够大规模满足 Snorkel GPU 沙箱需求的沙箱提供商。

来源:Modal Blog · modal.com