Modal phát hành Spindle, một máy chủ huấn luyện mã nguồn mở tương thích với Tinker
Introducing our Training API
Modal đã phát hành Spindle, một máy chủ huấn luyện mã nguồn mở tương thích với Tinker, chạy trong workspace Modal của khách hàng, cho phép các nhóm tùy chỉnh stack và trả tiền cho thời gian GPU thay vì token. Spindle hỗ trợ huấn luyện toàn bộ tham số và multi-LoRA trên các mô hình mở, và Modal báo cáo rằng việc chia sẻ một trainer cho 8 khách hàng đã cắt giảm chi phí trên mỗi 1M token đầu ra tới 80% so với Tinker trên một job GRPO DAPO-math. Modal cho biết Spindle vẫn đang trong giai đoạn beta và định vị nó giữa thư viện huấn luyện Dojo và các primitive cụm thô của mình.
Máy chủ Spindle mã nguồn mở của Modal mang đến cho các nhóm một lựa chọn thay thế tương thích với Tinker, đánh đổi giá theo token lấy thời gian GPU, với việc chia sẻ multi-LoRA được báo cáo giúp cắt giảm chi phí tới 80%.
Nguồn:Modal Blog · modal.com