跳至正文

公司與模型

NVIDIA 英偉達 最新動態

英偉達的 GPU 新品、CUDA 軟體生態、機器人平臺與 AI 算力供需。

41 條精選近 30 天 40 條共收錄 141 條

11月20日 04:43更新

NVIDIA 英偉達 · 精選 · 第 3 頁

2025年7月30日星期三第 41–41 條 / 共 41 條
  1. Modal Blog60

    Modal 推出 GPU 記憶體快照,實現亞秒級無伺服器冷啟動

    Modal 宣布 GPU 記憶體快照進入 alpha 階段,將其既有的 checkpoint/restore 系統延伸至擷取 GPU vRAM、CUDA 核心、串流與上下文,讓 GPU 工作負載能從凍結狀態還原,而非在開機後重建 CUDA 狀態。

    推薦理由:Modal 將 GPU 狀態納入其記憶體快照,讓 torch.compile 與 vLLM 工作負載的冷啟動時間最多縮短 10 倍,並使 scale-to-zero 更為實用。