跳到正文
Modal Blog·· 2024-12-19AI 评分25

Modal 新增 NVIDIA L40S GPU,AI 推理每小时 1.95 美元

Introducing: L40S GPUs on Modal

AI 导读

Modal 现向所有用户提供 NVIDIA L40S GPU,价格为每小时 1.95 美元,定位为其最受欢迎的推理加速器 A10 的更快、更大内存替代方案。L40S 将 GPU 内存翻倍至 48GB,使 Flux.1-schnell 等模型能在单块 GPU 上以 16bit 精度运行,并在内存受限任务上带来约 40% 的加速,在计算受限的 16bit Tensor Core 任务上加速超过 100%。

来源:Modal Blog · modal.com