跳到正文
2025年12月2日周二
  1. Modal Blog42

    Modal 为 Mistral 3 增加 Day 0 支持,并通过 GPU 快照实现 10 倍更快的冷启动

    Modal 现已提供对 Mistral 3 的 Day 0 支持,让开发者无需管理基础设施即可在无服务器 GPU 上部署该开放模型系列。在 3B 的 Ministral 3 模型上,Modal 的 GPU 快照功能将中位冷启动时间从约 118 秒缩短至约 12 秒,降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三种规模,在基准测试中与 Qwen 3-VL 系列表现相当。

2025年11月20日周四
  1. Replit Blog42

    Replit 推出 Fast Mode,让 Agent 编辑更快、更便宜

    Replit 推出了 Fast Mode,这是一种更快的方式,用于指示其 Agent 进行小型、精确的更改。它运行在一个高效的 agentic 模型上,比 Build 模式便宜得多,并经过优化以用最少的步骤完成请求,面向快速修复、视觉迭代和小型功能。Fast Mode 从今天起对所有 Replit 用户开放,通过闪电图标激活。

2025年10月31日周五
  1. Modal Blog22

    Modal 更新 Volumes v2、JavaScript 和 Go SDK 至测试版

    Modal 已面向所有应用发布 Volumes v2 公开测试版,其重建的文件系统带来更高吞吐量、更快的随机访问,以及支持数百个容器真正的高并发写入,且存储文件数量不设上限。其 JavaScript/TypeScript 和 Go SDK 也以 v0.5 进入测试版,新增统一的 Client 对象,并支持 Sandboxes、Functions、Images 和 Volumes。

2025年10月30日周四
  1. Modal Blog38

    Modal 与 Datalab:5 分钟内即可部署 Marker 和 Surya 文档智能

    Modal 已与 Datalab 合作,让开发者能在 5 分钟内于 Modal GPU 上部署 Marker 文档解析模型和 Surya OCR 工具包。Marker 是一个参数量低于十亿的模型,支持 90 多种语言,在 Modal 上运行每个容器约可达每秒 2.2 页,大约是使用 Apple MPS 的 M4 Mac 上每秒 0.22 页的 10 倍。Datalab 的工具对研究、个人使用以及融资或营收低于 200 万美元的初创公司保持免费,同时提供商业许可。

2025年10月27日周一
  1. Vapi Blog28

    Vapi 提供一周免费的 Cartesia Sonic-3 TTS

    从 10 月 28 日到 11 月 2 日,Vapi 通过其托管 API 密钥,向社区免费开放 Cartesia 新推出的 Sonic-3 TTS 模型的无限制访问。Sonic-3 新增了情绪和笑声标签、细粒度的语速和音量控制,并支持 27 种新语言。Vapi 建议从 Kira 和 Ariana 语音开始,以获得低延迟、听起来自然的智能体。

2025年9月22日周一
  1. Modal Blog38

    Modal Vibe:一个基于 Modal Sandboxes 构建的 AI 编程平台,5 分钟内可扩展至 1,000 个应用

    Modal 构建了 Modal Vibe,这是一个基于 Modal Sandboxes 的开源演示型 vibe 编程平台,可在约五分钟内从 0 扩展到 1,000 个 AI 编码应用。一次创建 1,000 个应用(每个应用位于各自的 Sandbox 中)的负载测试耗时约 300 秒,其中 AI API 是限速环节。Modal 表示,Team Plan 可运行 1,000 个并发 Sandbox,足以支持每月超过一百万次会话。

2025年9月19日周五
  1. Modal Blog20

    Modal 产品更新:Notebooks、沙箱空闲超时和客户端变更

    Modal 发布了多项产品更新,包括支持最高 8 块 B200 GPU 的云端 Python 实验环境 Modal Notebooks,以及为 modal.Sandbox.create() 新增的可选 idle_timeout 参数。客户端还为 @app.function() 和 @app.cls() 装饰器新增了 startup_timeout 参数,并提供了用于以命令式方式管理 Modal 资源类型的新 API 模式。Modal Notebooks 此后已被关停,但现有 notebook 仍可下载为 .ipynb 文件。

2025年9月9日周二
  1. Modal Blog58

    Modal 推出 Notebooks,GPU 内核启动时间不到 5 秒

    Modal Notebooks 在上个月有限测试后,现已向所有 Modal 客户全面开放。这个协作式笔记本环境运行在支持 GPU 的 Python 内核上,可在任意容器镜像和最高 256 vCPU、8 块 H100/B200 GPU 的硬件上于 5 秒内达到就绪状态,并具备自动空闲关机、共享 Volumes 和 Secrets 以及实时多光标编辑功能。Modal 表示,在 8 月测试期间,超过 5,000 个账户运行了 200,000 个代码单元,即将推出的功能包括内存快照、一键导出到 Modal Apps 以及定时运行。

2025年8月11日周一
  1. Modal Blog38

    Modal 产品更新:GPU 内存快照、Notebooks、服务令牌等

    Modal 以 alpha 形式新增 GPU 内存快照,通过跳过 Torch 编译等步骤,将 GPU 工作负载的冷启动时间缩短 10 倍,可通过 enable_gpu_snapshot 选项启用。此次更新还带来处于 beta 阶段的 Modal Notebooks,可在浏览器中运行 Python;面向工作区管理员的 Service Tokens;以及为已部署 Functions 提供的浏览器生成 UI。

2025年7月30日周三
  1. Modal Blog60

    Modal 推出 GPU 内存快照,实现亚秒级无服务器冷启动

    Modal 宣布推出 alpha 版 GPU 内存快照,将其现有的检查点/恢复系统扩展至捕获 GPU 显存、CUDA 内核、流和上下文,使 GPU 工作负载从冻结状态恢复,而非在启动后重建 CUDA 状态。

    推荐理由:Modal 将 GPU 状态加入其内存快照,使 torch.compile 和 vLLM 工作负载的冷启动时间最多缩短 10 倍,并让缩容至零更具实用性。

2025年7月11日周五
  1. Modal Blog40

    Modal 产品更新:多节点训练集群、B200 和 H200 GPU,以及 Client 1.0

    Modal 已推出多节点训练集群测试版,用户只需添加 @clustered 装饰器,即可跨多台主机调用数十块 GPU,并配备 3.2 Tbps Infiniband RDMA 互连,实现接近线性的扩展。该平台现以无服务器方式提供 NVIDIA B200 和 H200 GPU,价格分别为每小时 6.25 美元和 4.54 美元,声称 LLM 推理速度比 H100 最高快 2-4 倍。Modal 还发布了 Client 1.0,强调 API 稳定性,同时更新了只读 Volume 方法和 Cron 调度器的时区支持。

2025年6月26日周四
2025年6月9日周一
  1. Modal Blog40

    Modal 1.0 发布:更稳定的 Python SDK,采用显式配置

    Modal 已推出其 Python SDK 客户端的 1.0 版本,公司称这一里程碑为其无服务器云计算平台带来了新的成熟度和稳定性,预计未来破坏性变更将大幅减少。该版本移除了诸如自动挂载本地包之类的“魔法”行为,将核心功能拆分到独立的装饰器中(如新增的 @modal.concurrent),并将本地文件处理统一归入 modal.Image 类。Modal 还计划推出其他语言的 SDK,并正在探索该平台应如何服务于 AI 驱动的智能体工作流。

2025年6月4日周三
  1. Vapi Blog22

    11 个优秀的 ElevenLabs 替代方案:Vapi 原生 TTS 模型

    Vapi 现在提供 11 个内置文本转语音模型作为 ElevenLabs 的替代方案,包括 Neuphonic 的 Neu-hq 和 Neu-fast、Cartesia 的 Sonic 系列、Azure TTS、OpenAI TTS、Deepgram、Smallest AI 的 Lightning、LMNT、PlayHT、Hume 的 Octave 以及 Rime AI 的 Mist v2。开发者可以在几分钟内切换这些模型,无需重新编码,Vapi 表示其通过这些模型每天处理超过一百万次语音通话。

2025年5月30日周五
  1. Modal Blog42

    Modal 上线 Nvidia B200 和 H200 GPU,每小时 6.25 美元和 4.54 美元

    Modal 现向所有账户持有人提供 Nvidia B200 和 H200 GPU,无需联系销售或申请配额,价格分别为每小时 6.25 美元和 4.54 美元。B200 配备 180 GB HBM3e 显存和 8 TB/s 带宽;在 Modal 的 vLLM 测试中,以 8 位精度运行 DeepSeek V3 时,在每秒 1 个请求下,8 块 B200 将首 token 中位时间较 8 块 H200 缩短了 2.5 倍。

2025年5月23日周五
  1. Vapi Blog18

    Narakeet:将文本转换为自然流畅的语音

    Narakeet 可将书面文稿转换为逼真的配音,提供 70 多种语言的 600 多种声音,并支持 140 多种语言和方言。该平台可将旁白与 PowerPoint、Google Slides 和 Markdown 文件同步,生成字幕和说明文字,并提供支持批处理的开发者 API。套餐起价约为每月 5 美元,并提供免费套餐。

2025年5月22日周四
  1. Modal Blog58

    Modal 推出 Batch,一行代码即可处理 100 万个作业

    Modal 推出了 Modal Batch,这是一个批处理接口,背后是重建的持久化队列,可一次性排队 100 万个输入(此前为 2,000 个),并保证作业启动后最长 7 天内执行(此前为 1 天)。新的原生处理器 .spawn_map 可在一组输入上启动数千个容器,用户无需管理异步逻辑;Harvey 报告称,将输入分散到 1,000 个容器后,其文档处理流水线速度提升了 10 倍。Suno 用它在上千个 GPU 上运行 GPU 加速的预处理,Achira 则依赖其重试机制处理量子力学数据集。

2025年5月20日周二
  1. Modal Blog34

    Modal 将无服务器 KV 存储 Dict 的限制提升至无限存储,并新增锁定功能

    Modal 升级了其无服务器 Dict 键值存储:新建的 Dict 现在拥有无限存储空间,而非此前 10GiB 的上限,条目过期时间改为自上次写入或读取起 7 天。.put() 上新增的 skip_if_exists 标志支持分布式锁定和“恰好一次”语义,Dict 现在还提供数据持久性。这些变更仅适用于新建的 Dict。

  2. Vapi Blog22

    Vapi 将 GoHighLevel 日历集成到其语音代理中

    Vapi 已推出与 GoHighLevel 日历的直接集成,将其语音代理嵌入 GHL 的日程安排流程。代理现在可以查看已连接的 GHL 日历上的实时可用性,根据来电者信息创建联系人,并预约与正确联系人关联的日程。设置方式与在 Vapi 中连接 Google 日历类似,包含四个新工具:Create Event、Check Availability、Create Contact 和 Contact Get。

2025年4月30日周三
  1. Modal Blog38

    Modal 发布 JavaScript 和 Go 的 alpha SDK

    Modal 发布了其官方 JavaScript 和 Go SDK 的 alpha 版本,让开发者可以从 Node、Next.js 或 Go 服务中调用已部署的 Modal Functions 并创建隔离沙箱,而无需编写 Python。这些 SDK 无法部署函数,部署函数仍需使用 Python,且目前仅支持类 JSON 或 bytes 数据类型。Modal 表示,无论使用哪种语言,都能无问题地运行 10,000 个沙箱。

2025年4月24日周四
  1. Modal Blog22

    Lemon Slice 如何用 Modal 和 Daily 构建实时生成式视频

    Lemon Slice 构建了 Lemon Slice Live,这是一款用于与 AI 角色进行实时视频对话的产品,使用 Modal 和 Daily 的低延迟原语,实现端到端视频响应延迟 3-6 秒。该流水线在独立的 Modal 容器上运行 Pipecat 服务器和一个 10 亿参数的视频模型,这些容器通过 Modal 的 Tunnel 通信,并通过区域选择实现同地部署,由 Deepgram、Grok 和 ElevenLabs 负责语音转文本、LLM 响应和文本转语音。此前,两个 Python Modal Functions 让 Lemon Slice 扩展到每小时 10,000 次请求,而无需管理 ECS 集群、作业队列或负载均衡器。

2025年4月22日周二
2025年4月18日周五
  1. Vapi Blog40

    Vapi 推出 MCP Server,可从 Claude Desktop 和 Cursor 控制语音智能体

    Vapi 发布了 Vapi MCP Server,让 AI 智能体工具通过函数调用触发实时语音流程和外呼。它支持 Claude Desktop 集成以及通过 SSE 进行远程访问,因此用户可以用自然语言让 Claude 拨打电话或安排跟进。该服务器可通过 @vapi-ai/mcp-server 获取,支持本地运行或通过托管的 SSE 端点访问。

2025年4月17日周四
  1. Modal Blog25

    Modal 产品更新:100 万输入批处理作业、临时应用和 TensorRT-LLM 示例

    Modal 现在允许每个 Function 最多排队 100 万个输入(此前为 2k),并提高了 .spawn() 速率限制,FunctionCall 结果保留 7 天。此次更新还增加了在容器内通过 app.run() 创建临时应用、CLI 和仪表板中应用的 Git 提交信息,以及一个新的 TensorRT-LLM 示例,以低于 400 毫秒的延迟提供 LLM 服务。

2025年3月17日周一
2025年2月14日周五
  1. Modal Blog22

    Modal 产品更新:Logs v2、实时容器性能分析,以及所有套餐均可选择区域

    Modal 推出了全新改版的日志仪表盘,支持按时间范围输入筛选;提供实时容器性能分析,用于调试卡住的容器或输入;以及 Debug Shells,可在运行中的容器内执行 vim、ps 和 strace 等命令。区域选择现已在所有套餐中提供,定价为基础价格乘以一个系数,客户端还通过新增的 oidc_auth_role_arn 字段为云存储桶挂载增加了 OIDC 认证。

2025年1月28日周二
  1. Modal Blog62

    Modal 增加内存快照,将无服务器冷启动缩短 2.5 倍

    Modal 为其无服务器 GPU 容器运行时引入了内存快照恢复功能,称其冷启动速度比标准容器启动快约 2.5 倍。一个通常需要约 13 秒的 Stable Diffusion 推理 Function 现在可在 3.5 秒内恢复,而一个简单的 import torch 程序在 p50 下从约 5 秒降至约 1.05 秒,在 p0 下降至 0.69 秒。快照基于 gVisor 的 checkpoint/restore 构建,按需创建,当恢复失败时会自动回退到标准容器启动;GPU 状态尚未保存,因此必须在恢复后重建。

    推荐理由:Modal 解释了基于 gVisor 的内存快照如何缩短无服务器冷启动,并给出了 Stable Diffusion Function 和 torch import 示例的具体恢复耗时。

2025年1月21日周二
  1. Modal Blog20

    Modal 产品更新:L40S GPU、代理认证令牌和沙箱磁盘快照

    Modal 现已提供 NVIDIA L40S GPU,价格为每小时 1.95 美元,配备 48GB 内存,与 A10 GPU 相比,内存密集型任务性能最高提升 40%,计算密集型任务加速超过 100%。该平台还新增了用于限制 Web 端点访问的代理认证令牌、面向沙箱的文件系统 API,以及磁盘快照功能,允许用户从快照创建新的沙箱实例以消除冷启动。Modal 还宣布已完成 SOC 2 Type 2 认证。

  2. Modal Blog58

    Modal Sandboxes 正式可用,为 LLM 与用户代码提供隔离执行环境

    Modal 宣布 Sandboxes 正式可用,这是其用于在与其它 Modal 资源隔离的环境中安全运行来自 LLM、用户或第三方来源的不可信代码的基础组件。Sandboxes 提供简单的 exec API、通过 Image API 实现运行时可配置的环境,以及用于持久化的文件系统快照。Modal 还将支持上游贡献至 SWE-bench,其中 --modal 标志可让 Verified 基准的 500 个任务在大约 7 分钟内运行完成,并列举 Quora 的 Poe、Codegen 和 Relevance AI 作为客户。

2024年12月28日周六
  1. Modal Blog22

    Modal 产品更新:更快的内存快照、OIDC、异步任务队列

    Modal 发布了一轮产品更新,核心是其 beta 内存快照功能的重大升级,据称可将 Stable Diffusion 等模型的冷启动时间缩短一半。该平台还新增了对 OpenID Connect 的支持以提供短期身份令牌,支持 eStargz 镜像压缩以加快从 ECR 和 Docker Hub 等注册表的构建速度,并将异步任务队列的输入上限从 2k 扩展至 100 万。

2024年12月19日周四
  1. Modal Blog25

    Modal 新增 NVIDIA L40S GPU,AI 推理每小时 1.95 美元

    Modal 现向所有用户提供 NVIDIA L40S GPU,价格为每小时 1.95 美元,定位为其最受欢迎的推理加速器 A10 的更快、更大内存替代方案。L40S 将 GPU 内存翻倍至 48GB,使 Flux.1-schnell 等模型能在单块 GPU 上以 16bit 精度运行,并在内存受限任务上带来约 40% 的加速,在计算受限的 16bit Tensor Core 任务上加速超过 100%。

2024年11月8日周五
  1. Modal Blog22

    Modal 产品更新:静态 IP 代理、Slack 集成、实时用量仪表盘和 GPU 回退

    Modal 推出了静态 IP 代理,可通过工作区专属 IP 路由出站流量,此外还提供原生 Slack 集成用于实时应用告警,以及一个实时用量仪表盘,可跟踪所有工作区应用的资源使用情况。此次更新还为函数增加了 GPU 回退,扩大了函数可调度到的资源池,并包含客户端变更,例如 `modal shell` 容器 ID 以及针对参数化函数的内存快照。

2024年9月16日周一
2024年9月6日周五
  1. Modal Blog22

    Modal 产品更新:应用回滚、动态批处理、沙箱隧道与 OpenTelemetry

    Modal 推出了应用回滚功能,用户可从仪表盘或 CLI 将已部署的应用恢复到之前的版本;同时推出 @batched 装饰器,可将请求累积成动态大小的批次,以延迟换取吞吐量和 GPU 利用率。Sandbox 对象现在可以将 TCP 端口转发到互联网并执行额外进程,日志可导出到 OpenTelemetry 提供商。CPU 核心和高端 GPU 的价格也有所下降。

2024年9月2日周一
  1. Cursor Changelog58

    Cursor 详述用于后台 AI 代码迭代的 Shadow Workspace

    Cursor 实现了一个影子工作区,让 AI 在隐藏的 Electron 窗口中应用编辑并读回 lint 结果,而不触碰用户的编辑会话。文章概述了 LSP 可用性、独立性、隐私、并发和速度等设计目标,并解释了为何复制 TextModel 或运行独立语言服务器行不通。文章还勾勒了未来用于可运行性的内核级文件夹代理,并指出 macOS 和 Windows 缺乏可行的 FUSE 路径,且 Rust LSP 支持目前不可用。

2024年7月9日周二
  1. Modal Blog22

    Modal 产品更新:Datadog 集成、区域选择、更低的函数延迟

    Modal 的月度产品更新新增了 Datadog 集成,只需一键即可转发应用日志和审计日志;同时支持为函数选择云区域,以满足监管、出网成本或数据库本地化需求。该公司还重构了函数调用系统,以实现更高吞吐量和显著更低的开销,面向低延迟的实时生产工作负载;并全面改版了应用详情页,新增时间区间缩放、容器状态和镜像文件系统视图。

2024年5月7日周二
  1. Modal Blog18

    Modal 产品更新:云存储桶挂载、Okta SSO 等

    Modal 的月度产品更新新增了针对 AWS S3 和 Cloudflare R2 存储桶的可写挂载、用于在指定端口托管非 ASGI/WSGI Web 服务器的 @web_server 装饰器,以及面向企业版用户的 Okta 单点登录。Web 仪表板中的卷查看器让用户可以浏览卷文件系统,最新客户端则通过 .include 支持多文件应用组合、分区队列,以及为 Sandboxes 提供 stdin 支持。

2024年2月27日周二
  1. Modal Blog38

    Modal 为实时应用新增 WebSocket 支持

    Modal 现已支持 WebSocket 连接,使其平台上的函数能够在客户端与服务器之间维持持久、双向的链路,而非按请求建立的 HTTP 连接。每个 WebSocket 连接计为一次输入,因此不受 CPU/GPU 限制的函数应允许并发输入,否则 Modal 会为每个连接启动一个新容器。Modal 会自动扩缩 WebSocket 处理程序,面向实时流式传输、长时间运行任务的进度更新,以及托管 ComfyUI、Streamlit 和 Gradio 等框架。

2024年2月15日周四
  1. Modal Blog22

    Modal 产品更新:支持 WebSocket、交互式命令和 H100 GPU

    Modal 已为其函数添加 WebSocket 支持,可开箱即用地托管 Streamlit 等框架,并可通过 `modal container exec` 执行交互式命令,以检查和调试活动容器。H100 GPU 现已在 Modal 上可用,客户端更新新增了 `@build` 生命周期钩子、Volumes 的自动后台提交,以及包括 get、put 和 rm 在内的扩展 CLI 命令。