Modal Blog·· 2024-12-19AI 評分25
Modal 新增 NVIDIA L40S GPU,AI 推論每小時 1.95 美元
Introducing: L40S GPUs on Modal
AI 導讀
Modal 現在以每小時 1.95 美元的價格向所有使用者提供 NVIDIA L40S GPU,定位為其最受歡迎的推論加速器 A10 的更快、記憶體更大的替代方案。L40S 將 GPU 記憶體加倍至 48GB,讓 Flux.1-schnell 等模型能在單一 GPU 上以 16 位元精度運行,並在記憶體受限的工作上帶來約 40% 的加速,在運算受限的 16 位元 Tensor Core 工作上加速超過 100%。
來源:Modal Blog · modal.com