跳至正文
Modal Blog·· 2024-02-06AI 評分38

Modal 向所有使用者開放 NVIDIA H100 GPU

Introducing: H100s on Modal

AI 導讀

Modal 已向所有使用者開放 NVIDIA H100 GPU,價格為每顆 GPU 每小時 7.65 美元。NVIDIA 的基準測試顯示,相較於 A100,H100 可提供最高 4 倍的訓練加速與最高 30 倍的推論加速,並具備 80 GB 的晶片內 DRAM,且最多可透過 NVLink 以 3.6 TB/s 連結 8 顆 GPU。使用者只需在 Modal 裝飾器中將 GPU 類型設為「H100」即可啟用。

來源:Modal Blog · modal.com