跳到正文
Modal Blog· Kailash Ranganathan·· 22 天前精选AI 评分71

Modal 发布 Spindle:一个开源、兼容 Tinker 的训练服务器

Introducing our Training API

AI 导读

Modal 发布了 Spindle,这是一个开源、兼容 Tinker 的训练服务器,运行在客户的 Modal 工作区内,让团队可以自定义技术栈,并按 GPU 时长付费,而不是按 token 付费。Spindle 支持对开源模型进行全参数训练和多 LoRA,Modal 报告称,在一个 DAPO-math GRPO 任务上,让 8 个客户端共享一个训练器,相比 Tinker 可将每 100 万输出 token 的成本降低最多 80%。Modal 表示 Spindle 仍处于 beta 阶段,并将其定位在其 Dojo 训练库与原始集群原语之间。

推荐理由

Modal 的开源 Spindle 服务器为团队提供了一个兼容 Tinker 的替代方案,以按 GPU 时长付费取代按 token 定价,据称多 LoRA 共享可将成本降低最多 80%。

来源:Modal Blog · modal.com