跳到正文

内容类型

产品更新 最新动态

AI 产品与应用的功能上新、改版与商业化——谁家的产品变强了、变贵了、能用了。

61 条精选近 30 天 40 条共收录 566 条

11月18日 04:01更新

产品更新 · 精选 · 第 4 页

2025年1月28日周二第 61–61 条 / 共 61 条
  1. Modal Blog62

    Modal 增加内存快照,将无服务器冷启动缩短 2.5 倍

    Modal 为其无服务器 GPU 容器运行时引入了内存快照恢复功能,称其冷启动速度比标准容器启动快约 2.5 倍。一个通常需要约 13 秒的 Stable Diffusion 推理 Function 现在可在 3.5 秒内恢复,而一个简单的 import torch 程序在 p50 下从约 5 秒降至约 1.05 秒,在 p0 下降至 0.69 秒。快照基于 gVisor 的 checkpoint/restore 构建,按需创建,当恢复失败时会自动回退到标准容器启动;GPU 状态尚未保存,因此必须在恢复后重建。

    推荐理由:Modal 解释了基于 gVisor 的内存快照如何缩短无服务器冷启动,并给出了 Stable Diffusion Function 和 torch import 示例的具体恢复耗时。