Modal Blog·· 2024-02-06AI 评分38
Modal 向所有用户开放 NVIDIA H100 GPU
Introducing: H100s on Modal
AI 导读
Modal 已向所有用户开放 NVIDIA H100 GPU,每 GPU 每小时定价 7.65 美元。NVIDIA 基准测试显示,相比 A100,H100 的训练速度最高可提升 4 倍,推理速度最高可提升 30 倍,配备 80 GB 片上 DRAM,最多 8 块 GPU 可通过 NVLink 以 3.6 TB/s 互联。用户只需在 Modal 装饰器中把 GPU 类型设为 "H100" 即可启用。
来源:Modal Blog · modal.com