跳至正文
Modal Blog·· 2025-07-11AI 評分40

Modal 產品更新:多節點訓練叢集、B200 與 H200 GPU,以及 Client 1.0

Product updates: Multi-node training clusters, B200 and H200s, and Client 1.0 release

AI 導讀

Modal 已推出多節點訓練叢集 Beta 版,使用者只要加上 @clustered 裝飾器,就能跨多台主機取用數十個 GPU,並具備 3.2 Tbps Infiniband RDMA 互連,可達到近乎線性的擴展。該平台現在以無伺服器方式提供 NVIDIA B200 與 H200 GPU,價格分別為每小時 $6.25 與 $4.54,並宣稱 LLM 推論速度比 H100 快上 2-4 倍。Modal 同時發布 Client 1.0,強調 API 穩定性,另外還有唯讀 Volume 方法與 Cron 排程時區支援等更新。

來源:Modal Blog · modal.com