跳至正文

內容類型

產品更新 最新動態

AI 產品與應用的功能上新、改版與商業化——誰家的產品變強了、變貴了、能用了。

61 條精選近 30 天 40 條共收錄 566 條

11月18日 04:01更新

產品更新 · 精選 · 第 4 頁

2025年1月28日星期二第 61–61 條 / 共 61 條
  1. Modal Blog62

    Modal 加入記憶體快照,將無伺服器冷啟動加快 2.5 倍

    Modal 為其無伺服器 GPU 容器執行環境推出記憶體快照還原功能,並表示這能讓冷啟動比標準容器啟動快約 2.5 倍。一個通常需要約 13 秒的 Stable Diffusion 推論 Function,現在只需 3.5 秒即可還原;而一個簡單的 import torch 程式,則從約 5 秒降至 p50 約 1.05 秒、p0 約 0.69 秒。快照建構於 gVisor 的 checkpoint/restore 之上,並依需求建立;當還原失敗時,會自動退回標準容器啟動。GPU 狀態目前尚未被儲存,因此還原後必須重建。

    推薦理由:Modal 說明以 gVisor 為基礎的記憶體快照如何縮短無伺服器冷啟動,並提供 Stable Diffusion Function 與 torch import 範例的具體還原時間。