Modal Blog· Kailash Ranganathan·· 22 天前精選AI 評分71
Modal 發布 Spindle,一個開源、相容於 Tinker 的訓練伺服器
Introducing our Training API
AI 導讀
Modal 發布了 Spindle,這是一個開源、相容於 Tinker 的訓練伺服器,可在客戶的 Modal 工作區中運行,讓團隊能自訂技術堆疊,並按 GPU 時間而非 token 計費。Spindle 支援對開源模型進行全參數訓練與多 LoRA,Modal 表示,在一個 DAPO-math GRPO 任務上,讓 8 個客戶端共用一個訓練器,相較於 Tinker,每 100 萬輸出 token 的成本最多可降低 80%。Modal 表示 Spindle 仍處於 beta 階段,並將其定位於自家的 Dojo 訓練函式庫與原始叢集基礎元件之間。
推薦理由
Modal 的開源 Spindle 伺服器為團隊提供了一個相容於 Tinker 的替代方案,以 GPU 時間取代按 token 計費,據稱多 LoRA 共用可將成本最多降低 80%。
來源:Modal Blog · modal.com