Vapi 推出增强安全模式,保障企业语音 AI 音频隐私
Vapi 发布了增强安全模式,称这是企业语音 AI 平台有史以来部署的最安静、最安全的音频隐私层,旨在防止 AI 智能体的语音在开放空间中被他人听到。该公司表示,其整个音频管线经过重新设计,在不引入延迟伪影的情况下反转了信号存在优化。早期访问覆盖了医疗保健、福利管理和急性后期护理机构,该功能现已可用。
Vapi 发布了增强安全模式,称这是企业语音 AI 平台有史以来部署的最安静、最安全的音频隐私层,旨在防止 AI 智能体的语音在开放空间中被他人听到。该公司表示,其整个音频管线经过重新设计,在不引入延迟伪影的情况下反转了信号存在优化。早期访问覆盖了医疗保健、福利管理和急性后期护理机构,该功能现已可用。
Vapi 举办了一场网络研讨会,首席产品经理 Nick Robin 在会上演示了 Composer——其产品内助手,无需编写代码即可构建语音智能体,并在 30 分钟的演示中生成了一个可用的呼入客服智能体。Composer 可编写系统提示词、配置电话号码、设置日程安排,并标记自身错误以供审批。它目前处于 alpha 阶段,支持呼入和呼出助手、CRM 与日历集成,以及通过助手 ID 编辑现有智能体。
Modal 为 Sandboxes 新增了目录快照功能,用户可对单个目录创建快照,并将其独立于基础镜像挂载到新的 Sandbox 中。Modal 还与 Z.ai 合作发布了一个免费的公共 GLM-5 端点,有效期至四月底,兼容 OpenCode、Claude Code、OpenClaw 和 Vercel AI SDK。modal billing report CLI 和 modal.billing.workspace_billing_report API 现已面向 Team 和 Enterprise 工作区正式可用。
Vapi 发布了 Vapi Skills,这是一个遵循 Agent Skills 标准的代码库,同时推出一个 Model Context Protocol 连接器,让编码代理能够实时访问 Vapi 的文档。一条安装命令即可加载分步说明以及精确的 API schema,用于 create-assistant、create-tool、create-call 和 setup-webhook 等工作流,该技能包可在 Claude Code、Cursor、VS Code Copilot 和 Gemini CLI 上运行。
Modal 公测推出 Directory Snapshots,允许用户对运行中的 Sandbox 内特定目录做快照,并将其挂载到另一个 Sandbox,且独立于基础镜像和文件系统其余部分。该功能面向需要在沙箱重启之间保留项目状态的编码智能体和 vibe coding 平台;Modal 表示,它可将系统依赖与应用代码分离、预热沙箱池,并更快预加载关键文件。Directory Snapshots 在最后一次使用后保留 30 天,可即时挂载,其内容在 Modal 的懒加载容器文件系统上会优先预加载。
Vapi 发布了 Composer,这是一款内置于 Vapi Dashboard 的 AI 助手,可根据描述构建语音代理,撰写提示词、配置设置、开通电话号码、构建工具并设置集成。Composer 还可以调取通话日志来解释失败的通话并应用修复,以及生成在 Vapi 基础设施上运行的自定义代码工具,用于 HubSpot 等集成。它现已以 Alpha 版本提供,无需设置或引导流程。
Modal 推出 GLM-5 的免费 OpenAI API 兼容端点,可用至 4 月底,限单个并发请求,同时发布在单节点 8 张 B200 上用 SGLang 部署的可复现代码。
推荐理由:Modal 为 Z.ai 的 GLM-5 提供免费 OpenAI 兼容端点,并给出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具体配置。
OpenAI 在其官方开发者博客文章中介绍了 Codex 应用,这是为其 Codex 编程智能体打造的专属应用。该文章是一篇入门导览,介绍该应用及其核心工作流程,完整视频托管在 YouTube 上。
推荐理由:OpenAI 的官方导览展示了 Codex 应用如何组织核心编程工作流程,对于正在将其与现有编程智能体进行比较的开发者很有用。
Modal 现可通过 AWS 和 Google Cloud 市场购买,企业客户可将现有云支出承诺用于 Modal 使用量。平台还发布了沙箱 UI 更新,提供更清晰的资源和区域详情以及新的执行时间线,客户端 1.3.1 新增对 Python 3.14 的支持,包括在 Modal 容器中实验性支持自由线程 Python(3.14t)。
Factory 推出了 Agent Readiness,它从八个技术支柱和五个成熟度等级评估代码库对自主开发的支持程度,可通过 Droid 中的 /readiness-report、组织仪表盘或 API 运行。每项标准均为二值判定,只有当某一等级 80% 的标准以及所有先前等级全部通过时,该等级才会解锁;将每次评估建立在仓库此前的报告之上,使 9 个基准仓库在六周内的评分方差从平均 7% 降至 0.6%。报告可触发一个智能体,由其发起拉取请求来修复未通过的标准,例如缺少 AGENTS.md、linter 配置或 pre-commit 钩子。
OpenAI 发布了一个公开的 Model Context Protocol (MCP) 服务器,让 agent 以只读方式访问 developers.openai.com、platform.openai.com 和 learn.chatgpt.com 上的开发者文档。该服务器仅用于文档,不会代表用户调用 OpenAI API。开发者可以通过 CLI 或 IDE 扩展,用一份共享配置将其添加到 Codex,并与 OpenAI Docs Skill 搭配使用以获得带引用的回答。
Replit 现已入驻 ChatGPT,用户可在任意消息中 @replit,让 Replit Agent 直接在对话中创建、更新和部署 Replit 应用。构建进度和交互式预览会显示在聊天中,添加深色模式或支付表单等每个请求都会即时更新应用,应用存储在用户的 Replit 账户中以便后续发布。该集成需要 ChatGPT 账户(Free、Plus、Pro 或 Teams)和 Replit 账户,在 ChatGPT App Store 可用的地区均可使用,并消耗 Replit Agent 额度。
推荐理由:Replit 的 ChatGPT 集成让用户在聊天中描述应用,由 Replit Agent 完成构建、预览和部署,无需离开对话。
Vapi 发布了 Vapi Voices Beta,这是一系列专为高并发、成本敏感的语音 AI 用例构建的语音模型,定价为每分钟 0.0025 美元,延迟针对对话响应性进行了优化。这些模型出现在现有的语音下拉菜单中,与 ElevenLabs、PlayHT 和 Deepgram 等提供商并列,因此团队可以将预约提醒和路由菜单等高并发、低风险流程路由到这些模型,而无需任何集成更改。Vapi 表示,正式可用性取决于 beta 使用所揭示的用例、真实负载下的延迟以及节省是否重要。
Modal 现已提供对 Mistral 3 的 Day 0 支持,让开发者无需管理基础设施即可在无服务器 GPU 上部署该开放模型系列。在 3B 的 Ministral 3 模型上,Modal 的 GPU 快照功能将中位冷启动时间从约 118 秒缩短至约 12 秒,降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三种规模,在基准测试中与 Qwen 3-VL 系列表现相当。
Vapi 现已为所有语音 AI 助手支持结构化输出,确保每通电话返回的数据都符合开发者定义的 JSON schema。Schema 在运行时借助 OpenAI、Anthropic、Gemini 等厂商的原生能力强制执行,并可在多个助手之间复用。提取的数据会通过通话完成 webhook 和 REST API 送达。
Replit 推出了 Fast Mode,这是一种更快的方式,用于指示其 Agent 进行小型、精确的更改。它运行在一个高效的 agentic 模型上,比 Build 模式便宜得多,并经过优化以用最少的步骤完成请求,面向快速修复、视觉迭代和小型功能。Fast Mode 从今天起对所有 Replit 用户开放,通过闪电图标激活。
Modal 已面向所有应用发布 Volumes v2 公开测试版,其重建的文件系统带来更高吞吐量、更快的随机访问,以及支持数百个容器真正的高并发写入,且存储文件数量不设上限。其 JavaScript/TypeScript 和 Go SDK 也以 v0.5 进入测试版,新增统一的 Client 对象,并支持 Sandboxes、Functions、Images 和 Volumes。
Modal 已与 Datalab 合作,让开发者能在 5 分钟内于 Modal GPU 上部署 Marker 文档解析模型和 Surya OCR 工具包。Marker 是一个参数量低于十亿的模型,支持 90 多种语言,在 Modal 上运行每个容器约可达每秒 2.2 页,大约是使用 Apple MPS 的 M4 Mac 上每秒 0.22 页的 10 倍。Datalab 的工具对研究、个人使用以及融资或营收低于 200 万美元的初创公司保持免费,同时提供商业许可。
从 10 月 28 日到 11 月 2 日,Vapi 通过其托管 API 密钥,向社区免费开放 Cartesia 新推出的 Sonic-3 TTS 模型的无限制访问。Sonic-3 新增了情绪和笑声标签、细粒度的语速和音量控制,并支持 27 种新语言。Vapi 建议从 Kira 和 Ariana 语音开始,以获得低延迟、听起来自然的智能体。
Modal 构建了 Modal Vibe,这是一个基于 Modal Sandboxes 的开源演示型 vibe 编程平台,可在约五分钟内从 0 扩展到 1,000 个 AI 编码应用。一次创建 1,000 个应用(每个应用位于各自的 Sandbox 中)的负载测试耗时约 300 秒,其中 AI API 是限速环节。Modal 表示,Team Plan 可运行 1,000 个并发 Sandbox,足以支持每月超过一百万次会话。
Modal 发布了多项产品更新,包括支持最高 8 块 B200 GPU 的云端 Python 实验环境 Modal Notebooks,以及为 modal.Sandbox.create() 新增的可选 idle_timeout 参数。客户端还为 @app.function() 和 @app.cls() 装饰器新增了 startup_timeout 参数,并提供了用于以命令式方式管理 Modal 资源类型的新 API 模式。Modal Notebooks 此后已被关停,但现有 notebook 仍可下载为 .ipynb 文件。
Modal Notebooks 在上个月有限测试后,现已向所有 Modal 客户全面开放。这个协作式笔记本环境运行在支持 GPU 的 Python 内核上,可在任意容器镜像和最高 256 vCPU、8 块 H100/B200 GPU 的硬件上于 5 秒内达到就绪状态,并具备自动空闲关机、共享 Volumes 和 Secrets 以及实时多光标编辑功能。Modal 表示,在 8 月测试期间,超过 5,000 个账户运行了 200,000 个代码单元,即将推出的功能包括内存快照、一键导出到 Modal Apps 以及定时运行。
Modal 以 alpha 形式新增 GPU 内存快照,通过跳过 Torch 编译等步骤,将 GPU 工作负载的冷启动时间缩短 10 倍,可通过 enable_gpu_snapshot 选项启用。此次更新还带来处于 beta 阶段的 Modal Notebooks,可在浏览器中运行 Python;面向工作区管理员的 Service Tokens;以及为已部署 Functions 提供的浏览器生成 UI。
Modal 宣布推出 alpha 版 GPU 内存快照,将其现有的检查点/恢复系统扩展至捕获 GPU 显存、CUDA 内核、流和上下文,使 GPU 工作负载从冻结状态恢复,而非在启动后重建 CUDA 状态。
推荐理由:Modal 将 GPU 状态加入其内存快照,使 torch.compile 和 vLLM 工作负载的冷启动时间最多缩短 10 倍,并让缩容至零更具实用性。
Modal 已推出多节点训练集群测试版,用户只需添加 @clustered 装饰器,即可跨多台主机调用数十块 GPU,并配备 3.2 Tbps Infiniband RDMA 互连,实现接近线性的扩展。该平台现以无服务器方式提供 NVIDIA B200 和 H200 GPU,价格分别为每小时 6.25 美元和 4.54 美元,声称 LLM 推理速度比 H100 最高快 2-4 倍。Modal 还发布了 Client 1.0,强调 API 稳定性,同时更新了只读 Volume 方法和 Cron 调度器的时区支持。
Vapi 现在允许用户通过上传包含电话号码和自定义变量的 CSV 文件来发起外呼活动,然后分配一个助手或工作流来执行。Vapi 负责排队、执行和记录,通话状态可在仪表板中查看。活动需要使用已验证的电话号码,不能使用 Vapi 号码。
Modal 已推出其 Python SDK 客户端的 1.0 版本,公司称这一里程碑为其无服务器云计算平台带来了新的成熟度和稳定性,预计未来破坏性变更将大幅减少。该版本移除了诸如自动挂载本地包之类的“魔法”行为,将核心功能拆分到独立的装饰器中(如新增的 @modal.concurrent),并将本地文件处理统一归入 modal.Image 类。Modal 还计划推出其他语言的 SDK,并正在探索该平台应如何服务于 AI 驱动的智能体工作流。
Vapi 现在提供 11 个内置文本转语音模型作为 ElevenLabs 的替代方案,包括 Neuphonic 的 Neu-hq 和 Neu-fast、Cartesia 的 Sonic 系列、Azure TTS、OpenAI TTS、Deepgram、Smallest AI 的 Lightning、LMNT、PlayHT、Hume 的 Octave 以及 Rime AI 的 Mist v2。开发者可以在几分钟内切换这些模型,无需重新编码,Vapi 表示其通过这些模型每天处理超过一百万次语音通话。
Modal 现向所有账户持有人提供 Nvidia B200 和 H200 GPU,无需联系销售或申请配额,价格分别为每小时 6.25 美元和 4.54 美元。B200 配备 180 GB HBM3e 显存和 8 TB/s 带宽;在 Modal 的 vLLM 测试中,以 8 位精度运行 DeepSeek V3 时,在每秒 1 个请求下,8 块 B200 将首 token 中位时间较 8 块 H200 缩短了 2.5 倍。
Narakeet 可将书面文稿转换为逼真的配音,提供 70 多种语言的 600 多种声音,并支持 140 多种语言和方言。该平台可将旁白与 PowerPoint、Google Slides 和 Markdown 文件同步,生成字幕和说明文字,并提供支持批处理的开发者 API。套餐起价约为每月 5 美元,并提供免费套餐。
Modal 推出了 Modal Batch,这是一个批处理接口,背后是重建的持久化队列,可一次性排队 100 万个输入(此前为 2,000 个),并保证作业启动后最长 7 天内执行(此前为 1 天)。新的原生处理器 .spawn_map 可在一组输入上启动数千个容器,用户无需管理异步逻辑;Harvey 报告称,将输入分散到 1,000 个容器后,其文档处理流水线速度提升了 10 倍。Suno 用它在上千个 GPU 上运行 GPU 加速的预处理,Achira 则依赖其重试机制处理量子力学数据集。
Modal 升级了其无服务器 Dict 键值存储:新建的 Dict 现在拥有无限存储空间,而非此前 10GiB 的上限,条目过期时间改为自上次写入或读取起 7 天。.put() 上新增的 skip_if_exists 标志支持分布式锁定和“恰好一次”语义,Dict 现在还提供数据持久性。这些变更仅适用于新建的 Dict。
Vapi 已推出与 GoHighLevel 日历的直接集成,将其语音代理嵌入 GHL 的日程安排流程。代理现在可以查看已连接的 GHL 日历上的实时可用性,根据来电者信息创建联系人,并预约与正确联系人关联的日程。设置方式与在 Vapi 中连接 Google 日历类似,包含四个新工具:Create Event、Check Availability、Create Contact 和 Contact Get。
Modal 发布了其官方 JavaScript 和 Go SDK 的 alpha 版本,让开发者可以从 Node、Next.js 或 Go 服务中调用已部署的 Modal Functions 并创建隔离沙箱,而无需编写 Python。这些 SDK 无法部署函数,部署函数仍需使用 Python,且目前仅支持类 JSON 或 bytes 数据类型。Modal 表示,无论使用哪种语言,都能无问题地运行 10,000 个沙箱。
Lemon Slice 构建了 Lemon Slice Live,这是一款用于与 AI 角色进行实时视频对话的产品,使用 Modal 和 Daily 的低延迟原语,实现端到端视频响应延迟 3-6 秒。该流水线在独立的 Modal 容器上运行 Pipecat 服务器和一个 10 亿参数的视频模型,这些容器通过 Modal 的 Tunnel 通信,并通过区域选择实现同地部署,由 Deepgram、Grok 和 ElevenLabs 负责语音转文本、LLM 响应和文本转语音。此前,两个 Python Modal Functions 让 Lemon Slice 扩展到每小时 10,000 次请求,而无需管理 ECS 集群、作业队列或负载均衡器。
Vapi 现已支持短信,使其语音 AI 智能体能够在通话过程中收发文本消息。智能体可以实时回复收到的短信,在对话中途从语音切换到文本,并运行完全基于文本的流程;短信目前仅支持 Twilio。
Vapi 发布了 Vapi MCP Server,让 AI 智能体工具通过函数调用触发实时语音流程和外呼。它支持 Claude Desktop 集成以及通过 SSE 进行远程访问,因此用户可以用自然语言让 Claude 拨打电话或安排跟进。该服务器可通过 @vapi-ai/mcp-server 获取,支持本地运行或通过托管的 SSE 端点访问。
Modal 现在允许每个 Function 最多排队 100 万个输入(此前为 2k),并提高了 .spawn() 速率限制,FunctionCall 结果保留 7 天。此次更新还增加了在容器内通过 app.run() 创建临时应用、CLI 和仪表板中应用的 Git 提交信息,以及一个新的 TensorRT-LLM 示例,以低于 400 毫秒的延迟提供 LLM 服务。
Modal 将 GPU、CPU 和内存价格下调最高 65%,Team 套餐用户现在最多可同时运行 50 个 GPU。从 0.73.46 版本起,Modal SDK 已上线 conda-forge,并计划发布 1.0 版客户端。Modal 还发布了 LTX-Video 图生视频示例,并推出了新标志。
Modal 推出了全新改版的日志仪表盘,支持按时间范围输入筛选;提供实时容器性能分析,用于调试卡住的容器或输入;以及 Debug Shells,可在运行中的容器内执行 vim、ps 和 strace 等命令。区域选择现已在所有套餐中提供,定价为基础价格乘以一个系数,客户端还通过新增的 oidc_auth_role_arn 字段为云存储桶挂载增加了 OIDC 认证。