Vapi 向所有客户开放 GPT-Live 测试版,将语音代理拆分为说话者和推理者
Vapi 已向所有 Vapi 客户开放其 GPT-Live 测试版,此前上个月曾与 OpenAI 的全双工语音转语音模型进行有限测试。在 Vapi 上,该模型作为说话者运行,处理整个通话,并将查询或操作委托给单独的推理者模型,交接通过两个提示而非一个来控制。现有电话号码、工具、测试和可观测性均保留,转录器配置被移除,语音切换为 OpenAI 的 22 种之一。
Vapi 已向所有 Vapi 客户开放其 GPT-Live 测试版,此前上个月曾与 OpenAI 的全双工语音转语音模型进行有限测试。在 Vapi 上,该模型作为说话者运行,处理整个通话,并将查询或操作委托给单独的推理者模型,交接通过两个提示而非一个来控制。现有电话号码、工具、测试和可观测性均保留,转录器配置被移除,语音切换为 OpenAI 的 22 种之一。
Modal 宣布 Modal Clusters 已面向所有工作区正式可用,用户可通过单个装饰器 @modal.clustered 申请多节点集群。集群提供最高 6.4 Tbps 的 InfiniBand RDMA 通信,自动为 PyTorch 和 NCCL 完成配置,集群可在数秒内启动并按秒计费。Modal 还介绍了一款新的 gang 调度器,可一次性放置 N 个节点,并将 RDMA 支持内置于 gVisor 运行时;Decagon、1x 和 Runway 被列为用户,分别用于万亿参数微调、世界模型预训练和多节点视频推理。
Modal 推出 Beta 版 Sidecars,这是与 Sandbox 在同一主机上并行运行的隔离容器,用于将凭证、代理和 harness 逻辑等可信代码与不可信的 agent 生成代码隔离开来。Modal 表示,Sandbox 与其 Sidecars 之间的通信速度至少比同一区域内独立 Sandbox 之间的通信快 3 倍,每次调用的 p50 传输耗时为 0.58ms,而后者为 2.6ms。每个 Sidecar 都有自己独立的出站网络策略,单个 Sandbox 最多可运行 250 个 Sidecars,Ramp 已使用该功能在其 Inspect 编码 agent 旁运行自定义出口代理。
Modal 已正式发布 VM Sandboxes,通过相同的 API、modal.Images、亚秒级冷启动以及 CPU/内存突发能力,为智能体提供完整的 Linux 虚拟机,与其现有的基于 gVisor 的 Sandboxes 保持一致。当用户需要 Docker、FUSE 文件系统或小众 Linux 内核特性时,可通过 runtime="vm" 启用,而 gVisor 仍为默认运行时。Modal 表示,早期客户已启动超过 2000 万台虚拟机,其中 Linear 的每个 Coding Session 都运行在 VM Sandbox 上,Legora 和 Snorkel 则将其用于法律智能体评估和智能体模拟。
推荐理由:Modal 的 VM Sandboxes 为智能体提供带有 Docker 和内核访问权限的完整 Linux 机器,同时保留现有的 Sandbox API 和亚秒级冷启动。
Modal 发布了 VM 沙箱,为智能体提供完整的 Linux 计算机,可用于 Docker 技术栈、本地数据库和移动模拟器,Linear、Legora 和 Snorkel 已在使用。Modal 集群现已通过 @modal.clustered 装饰器正式可用,支持跨协调容器的万亿参数训练与推理服务。此外还推出了粘性会话和端点候选,后者处于私测阶段。
Factory 已将 Automations 全面开放,让团队可以描述一个重复性工作流,并让 Droid 按计划或事件触发来运行它。每个自动化都结合了触发器(计划、Slack、GitHub 或 webhook)、指令、用户选择的模型和推理级别,以及一台可以是本地、已连接或由 Factory 托管的 Droid Computer 的机器。Factory 表示,过去 30 天内有 52% 的企业用户运行了自动化代码审查,48% 使用了安全审查,35% 使用了 AutoWiki,自动化会话量较此前 30 天增长了 51%。
推荐理由:Factory 将其 Automations 全面开放,展示了企业实际把哪些重复性工程工作流交给 Droid,以及模型和机器选择如何按任务生效。
Vapi 推出 Personal Agent Calling 测试版,让个人助手可以拨打企业电话、处理电话菜单、进行对话并回报结果。该功能可与 Muse、Instinct、GrokBot、ChatGPT Work、Claude Code、OpenClaw 和 Hermes 等助手配合使用,用户粘贴一段提示词,将助手指向 phone.vapi.ai。在一次测试中,收入负责人 Bryan Parman 的助手在航空公司等候了 14 分钟,并拒绝了 51.69 美元的升舱费,随后客服代表免除了该费用,并免费确认了一个 Economy Plus 靠过道座位。
Vapi 推出了 Vapi for CX,这是一套用于构建、部署、观测和优化客户体验语音智能体的工具包。它将面向 CX 团队的自然语言 Composer 与可通过 API、CLI 和 MCP 服务器访问的同一配置对象相结合,并提供评估、版本控制、回退方案、通话评分卡,以及跨转录器、模型和语音的每周延迟、成本和质量数据。Vapi 表示,Amazon Ring 在评估了 40 多家供应商后,将其 100% 的呼入量运行在该平台上;Kavak 则能在约五分钟内构建新的智能体版本,NPS 提升了 20 分。
OpenClaw 宣布推出 OpenClaw Enterprise(OCE),这是一个开源、厂商中立的平台,用于在敏感环境中管理持久化代理,目前仍在开发中,计划于今年晚些时候发布 1.0 版本。OCE 增加了一个企业控制平面,具备多租户、硬性安全边界、沙箱、基于 LLM 的审查和细粒度权限,并允许将 harness、模型和沙箱替换为第三方或内部实现。组织今天可以通过 docker-compose 进行本地开发,或通过 kubernetes 进行内部部署来自行托管,目前正在 Red Hat 和 OpenAI 等公司进行试点。
推荐理由:OpenClaw Enterprise 是一个面向敏感环境中持久化代理的开源控制平面,具备多租户、硬性安全边界和可审计性,现已可用于内部试点工作负载。
Vapi 产品工程师 Mhar Andal、Scott Lowe 和 Adham El Fawal 在 9 月 22 日的网络研讨会上演示了模型智能、模拟和活动,并回答了构建者的热门问题。模型智能推荐转录器、LLM 和语音预设,并显示成本、延迟和质量指标,而模拟则运行 AI 测试器并给出通过/失败结果,活动可拨打最多 10,000 个联系人的列表。
Modal 与卡内基梅隆大学全栈数据实验室构建了 Quail,这是一款面向 AI-SQL 工作负载的查询感知推理引擎,可联合优化 SQL 查询规划器与推理引擎。在一条多连接查询上,它每块 H100 GPU 每分钟可处理超过十亿个 token,比 Modal 在同一硬件上的 vLLM 基线快 10 倍以上,每十亿 token 成本低于 6 美分;在团队新推出的 AI-SQL 基准测试上,按任务几何平均计算,它比 vLLM 快 1.84 倍。由于 AI-SQL 的过滤和连接每个序列只需一个 token,Quail 跳过了解码、采样以及预填充-解码分离,并利用已知的查询计划来排序请求和管理 KV 缓存淘汰。
LiveKit 推出了 Private Links,这是一种完全托管的加密隧道,让 LiveKit 托管的智能体能够通过 AWS PrivateLink 或 Azure Private Link 访问私有内部资源,无需公网 IP、入站防火墙规则或 VPN 基础设施。流量通过 WireGuard 隧道路由到同一云区域内的 LiveKit 网关,且仅支持使用 TLS 保护的 TCP 连接。可通过 LiveKit CLI 或 Dashboard 进行设置,客户侧需一次性批准连接。
OpenClaw 引入了对单独配置的决策模型的支持,其核心和插件可通过 Plugin SDK 中的 api.runtime.decisions.evaluate 调用该模型,返回选择、分数或概率,而非聊天回复。该功能为可选启用,不会取代聊天模型,相关提供商包仍在等待支持版本发布。TypeSafe 适配器支持托管的 Jev 以及本地 System One 服务器(如 Jared Palmer 的 Kev),评估工具正以 decision_evaluate 之名移入 OpenClaw 核心。
推荐理由:OpenClaw 新增了一个可选启用的决策模型层,可从应用代码返回类型化答案,并提供共享的 Plugin SDK 接口,使插件无需针对每个提供商单独集成即可使用。
Descript 于 2026 年 9 月 17 日发布的更新新增 18 种字幕预设和 10 种新文字动画,并在 145.0.15 或更高版本中支持将 AI 生成的背景音乐和音效直接放置到时间线上。结账页面现在以本地货币显示价格,并支持 Apple Pay、Google Pay、Cash App 等支付方式,语音选择器则接入了 ElevenLabs 语音库。
Modal 在其 Auto Endpoints 上新增了对四个开放权重模型的首日支持——Kimi K3、Qwen3.8-2.4T-A95B、GLM-5.3 和 GLM-5.3-Flash,其中 Kimi K3 借助自定义 DFlash 推测器在智能体工作负载上达到每秒 460 个 token。Sandbox Sidecars 进入公开 alpha,VM Sandboxes 达到公开 beta,广域定价倍率从 1.5 倍降至 1.15 倍。仪表盘焕新并推出浅色模式 beta,Python SDK 1.5.5 以及 JavaScript 和 Go SDK 0.10.0 已发布。
Vapi 已为 GPT-Live 开放有限私测,这是 OpenAI 的下一代全双工语音到语音模型,同时开放公开候补名单以供早期访问。GPT-Live 将语音转文本、LLM 和语音的模块化流水线替换为单一模型处理全部三项,降低轮次延迟并保留语气和重音。参与测试的团队在与现有模块化智能体相同的 Vapi 技术栈上运行它,模块化流水线仍受支持。
LiveKit 新增了非生产部署,可在与生产相同的容器镜像、项目和密钥下,以不同名称运行语音代理,只需一条命令即可创建。每个部署在空闲时休眠且不产生费用,并在下一次请求时唤醒,你可以通过 --deployment 标志指定它。它要求 Python 使用 livekit-agents 1.6+ 或 Node 使用 @livekit/agents 1.7.1+,并且计划在 Ship 上授予 2 个部署,在 Scale 上授予 5 个部署。
LiveKit 推出 Connectors,可在 LiveKit 房间与 Twilio Programmable Voice 和 WhatsApp Business Calling 之间直接桥接,并计划支持更多平台。每通电话都以 CONNECTOR 参与者身份加入房间,携带平台上下文,例如 Twilio 通话 SID 或 WhatsApp 来电者的电话号码,代理调度在同一 API 请求中完成。Connectors 已在 LiveKit Cloud 正式可用,按 SIP 定价:Ship 套餐每分钟 $0.004,Scale 套餐每分钟 $0.003;Build、Ship 和 Scale 套餐分别支持 5、20 和 100 路并发 connector 通话。
Vapi 推出了重建版 Campaigns,这是其批量外呼产品,现在运行在独立于呼叫队列的持久化工作流引擎上。每个 campaign 最多可容纳 10,000 个联系人,外加一个 assistant 或 squad 以及一个电话号码,拨号被限制在设定的时间窗口内,assistant 提示中可使用每个联系人的变量,并有一个拨号前 webhook 可跳过已转化的联系人。Vapi 表示,campaign 状态持久化在任何单一进程之外,并发以滑动窗口而非批次方式运行,每次状态变更都会追加一个不可变事件,因此进度和审计轨迹不会发生偏移。
LiveKit 已将智能体会话分钟数、录制、WebRTC 连接和 SIP 连接改为按秒计费,最小计费单位为十秒,适用于所有套餐和账户,包括企业合同。该变更已生效,并将于 9 月账单中体现 8 月的用量,不会对客户造成技术层面的变化。LiveKit 表示,按分钟计费与仅持续数秒的短时外呼不匹配,限制了该用例。
LiveKit 已在 Agent Observability 中加入 PII 脱敏功能,可在录制内容和转录文本存储之前自动移除姓名、地址、生日及其他敏感信息,对所有 Agent Observability 客户不额外收费。由 LLM 结合上下文阅读每段对话以检测 PII,将相关词语替换为标记,并从音频中删除整个轮次。该功能覆盖 10 个组别下的 41 种 PII 类型,需要 Python 或 Node.js 的 LiveKit Agents SDK 1.7.0。
Vapi 推出 Simulations,这是一项原生 AI 驱动的测试功能,在语音代理通话的另一端放置具有鲜明个性和源自客户场景的 AI 测试员。每次运行都会返回通过/失败结果、完整转录和录音,团队可以模拟 API 响应、运行低成本的纯文本聊天模式或完整语音模式,并通过 API 触发运行,同时设置质量门禁,在通过率下降时阻止部署。
Factory 已在面向企业组织的 Factory Analytics 中正式推出 Agent Effectiveness,将 Factory 会话与周期时间、工作意图和已交付产物关联起来。该功能新增了 Throughput、Output 和 Attribution 视图,把 Droid 的使用情况与交付成果连接起来,并由 Local Signals 分类层提供支持,该分类层可从 Jira、Linear、GitHub 和 GitLab 读取数据。该功能为可选启用,默认关闭,且需要 Advanced Analytics 企业控制项。
Qwen3.8-2.4T-A95B 已作为开源权重模型发布,并同步在 Modal 上线。Modal 表示其与 Qwen 在发布前合作,通过 SGLang 和针对 Qwen3.8 形状调优的定制 DFlash 推测器,为 Modal Auto Endpoints 提供 day zero 支持。
推荐理由:Modal 在 Qwen3.8-2.4T-A95B 开源权重发布当天即上线共享端点,并说明其定制 DFlash 推测器如何针对该模型的形状提升推理速度。
Modal 已将全部 Functions 迁移至新的地理分布式 I/O 平面,使端到端 Function Call 延迟在 p50 上降低约 80ms。此前,每个 Function 的输入和输出都经由 us-east 的 I/O 服务器路由,每次调用会增加最多几百毫秒的延迟;新平面已在至少 4 个区域可用,并可通过 routing_region 标志选择。服务器层已用 Go 重写,非关键工作已移出热路径。
Modal 在发布当天就在其平台上线了 Moonshot 的 Kimi K3,通过按 token 计费的 Shared API 和专用 Auto Endpoints 提供这款拥有 1M token 上下文窗口的 2.8 万亿参数多模态模型。Modal 表示,针对 K3 架构调优的自定义 DFlash speculator 在 agentic 工作负载上将交互性从每秒 100 token 提升到 460 token,并将每 GPU 吞吐量从 800k TPM 提升到 150 万 TPM。该模型采用混合专家设计,每个 token 激活 896 个专家中的 16 个,Moonshot 在发布前向 vLLM 贡献了新的前缀缓存实现。
推荐理由:Modal 详细介绍了它如何在发布当天将 Moonshot 的 2.8T 参数 Kimi K3 引入其平台,包括一个自定义 DFlash speculator,将交互性从每秒 100 token 提升到 460 token。
Vapi 推出了 Model Intelligence,这是一组帮助开发者语音智能体选择模型组合的功能。它包含四个模型预设(Balanced、High Intelligence、Ultra Fast、Cost Saver),每个预设打包了转写器、LLM 和语音,并提供基于超过 10 亿次 Vapi 调用得出的各模型成本、延迟和质量指标。
Modal 是 Devin Outposts 的发布合作伙伴。Devin Outposts 是 Cognition 的一项功能,它将 Devin 的代码执行迁移到客户控制的环境中,而 Devin 的推理仍留在 Cognition 的云端。开源的 modal-devin 库和 CLI 会在 Modal Sandbox 中运行每个 Outpost 会话,从而获得 GPU 支持的机器、自定义镜像、工作区快照和缩容到零的能力,并将于 2026 年 7 月 21 日以 alpha 版本上线。设置使用 uvx modal-devin init,它会生成一个编排器函数和一个工作会话函数,团队可以继续自定义它们。
Modal 已从零重建其核心沙箱平台,在新系统上它同时运行了 100 万个沙箱,并在不到一分钟内全部创建完成。此次重新设计将中央协调和任何数据存储从沙箱创建路径中移除:横向扩展的调度服务器通过内存算法挑选一个 worker 并直接调用它,而 worker 则异步将状态发布到 Redis stream。Modal 表示沙箱启动延迟的中位数低于半秒,新系统已以 Beta 版提供,只需改一行代码即可选择启用。
推荐理由:Modal 重建了其沙箱控制平面以去除中央协调,展示了当全局一致性离开关键路径后,容器调度能够扩展到何种程度。
Thinking Machines 发布了 Inkling,这是一个通用多模态模型,可接收文本、图像和音频输入并输出文本,Modal 从第一天起就以按 token 计费的托管端点形式提供该模型。Inkling 是一个混合专家 Transformer,总参数 975B,激活参数 41B,上下文窗口 1M token,原生支持音频和视觉,每五个滑动窗口注意力层对应一个全注意力层。在 8 块 B200 上的智能体工作负载中,Modal 定制的 DFlash 推测器在每 GPU 吞吐 2.5M TPM 时达到每用户每秒 250 token,在同等吞吐下交互速度比模型内置的推测路径快 67%。
推荐理由:Modal 为 Thinking Machines 的 975B 参数 Inkling 提供的首日端点表明,定制的 DFlash 推测器将交互速度比模型内置的推测路径提升了 67%。
Anthropic 于 6 月 30 日推出 Claude Science,这是一个 AI 工作台,生命科学研究人员可在与 Claude 的对话中直接运行计算工作负载。Modal 作为计算后端集成:需要 GPU 或大量并发 CPU 的工作负载,会从研究人员连接的工作区自动路由到 Modal 沙箱,而默认执行仍保留在本地机器上的沙箱中。Modal 列举了跨数百个容器的扇出虚拟筛选、为 ESMFold2 等模型提供逐步 GPU 访问、共享 Modal Volumes 存储和可复现的 Modal Images,并承诺为 Anthropic 的 AI for Science Claude Science Cohort 提供最高 10 万美元的计算资源,每个项目 500–2,000 美元,申请开放至 2026 年 7 月 15 日。
推荐理由:Modal 的帖子解释了 Claude Science 如何将 GPU 和并行工作负载路由到 Modal 沙箱,并附有具体的生命科学示例以及面向学术实验室的计算资助。
Modal 推出了 Servers,这是一个区域化的 HTTP 服务器副本自动扩缩容池,面向 HTTP、WebSocket 和 gRPC 流量,针对交互式智能体的 LLM 推理等延迟敏感型工作负载。Modal 表示,通过将控制平面查找和排队移出请求路径,p50 延迟从 39ms 降至 6ms,因此当没有可用副本时客户端会收到 503,必须在应用层处理降载。路由层运行在 AWS EKS 上,边缘使用 Envoy,Modal 自研的 Rust 代理 fprs 基于 Cloudflare 的 pingora 构建,负责域名关联和负载均衡,配置从 Spanner 读取并缓存在内存中。
Modal 正在推出 Modal Auto Endpoints,只需一键即可将 Modal 的基础设施扩展能力与业界领先的推理性能相结合,同时保留对代码的控制权。Modal 表示,主要的延迟收益来自使用自定义 DFlash 推测器模型的推测解码;在 Decagon Voice 的案例研究中,这将端到端延迟降低了约 100ms,约占服务端解码延迟的 40%,使其比最快的专有替代方案快 60ms 以上。Modal 还与 Z Lab 和 SGLang 一起发布了开源 DFlash 推测器模型,其中包括一个用于 Qwen 3.5 397B-A17B 的模型,其性能比 MTP 提升超过 50%。
Modal 推出了 Auto Endpoints,这是一项自助式服务,可将生产级 LLM 推理部署为兼容 OpenAI API 的端点,并由用户可见且可控的 Modal App 提供支持。每个受支持的模型都附带一个初始部署,该部署根据 Modal 自身的基准测试进行调优,使用 SGLang 等引擎以及来自 Z Lab 的 DFlash 推测解码草稿器,用户可以查看 GPU 选择、引擎标志以及 TTFT、ITL 和推测解码接受长度等推理指标。Modal 还将 Modal Servers 从测试版发布,用于提供开销为 5ms 的区域化路由,并表示它通过一个仍由人类工程师监控的内部智能体系统来生成端点部署。
推荐理由:Modal 的 Auto Endpoints 公开了托管推理提供商通常隐藏的服务栈、引擎指标和基准测试配方,为团队提供了一条自助式路径来拥有开放模型推理。
Modal 认为,容器调度和启动时间——大多数沙箱基准测试将其作为交互时间来衡量——只是用户实际等待过程中最小的一部分;容器启动后的应用层设置往往需要数秒。Modal 正在将就绪探针(Readiness Probes)正式开放,用于指示沙箱何时完成初始化,并推荐基于 modal.Queue 和目录快照(Directory Snapshots)构建热沙箱池,以将设置移出用户的关键路径。
Modal 在 Hugging Face 上为 Qwen 系列发布了一组 DFlash 草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 和从 4B 到 122B-A10B 的 Qwen 3.5 变体,以及一个用 SGLang 构建的 Qwen 3.5 397B-A17B 的 DFlash 推测器。该公司表示,新的草稿器在现有 DFlash 基线之上额外提速 5-20%,并且可以在 B200 节点上以并发 1 运行 Qwen 3.5 122B-A10B 达到超过 1000 tok/s,而不使用推测时为 250 tok/s。文章认为,在内核优化只能带来几个百分点提升的地方,推测解码可带来 2 倍至 3 倍的增益,并提出了一个根据接受长度估算加速比的 roofline 模型。
推荐理由:Modal 解释了为何押注推测解码,并为 Qwen 系列发布了 DFlash 草稿模型,附有实测加速比和用于估算增益的 roofline 模型。
Modal 发布了一批平台更新,包括 alpha 版 VM 沙箱,可运行真实 Linux 内核以支持 Docker 容器、eBPF、systemd 和 cgroups。函数现在可以路由至美国西部、欧洲西部或亚太南部,而非默认的美国东部区域,RBAC 已向所有 Team 和 Enterprise 计划开放。沙箱就绪探针现已正式可用,Python SDK 1.5.0 和 JS/Go SDK 0.8.0 将默认快照 TTL 设为 30 天。
Factory 正在 Droid 中推出自动化安全审查,该功能会在每个非草稿 PR 上,在标准代码审查之外运行基于 STRIDE 的安全审查,并以行内评论的形式在 diff 上发布发现的问题,包括严重程度、CWE 参考、解释和建议修复。该公司表示,Droid 的安全审查已在生产代码库中运行,并发现了经过负责任披露的问题,包括 external-secrets 中的 CVE-2026-42876 以及 workos/workos-node#1578。Droid 会为变更面构建轻量级威胁模型,扫描 OWASP Top 10 和 OWASP LLM Top 10 等问题中的漏洞,然后针对 diff 验证每个候选发现以过滤误报,最后为每个 PR 发布一条去重后的摘要。
推荐理由:Factory 的 Droid 现在会在每个非草稿 PR 上运行基于 STRIDE 的安全审查,且该文章展示了它在生产代码库中发现的真实 CVE。
MiniMax 将 MiniMax Agent 升级并更名为 Mavis,同时推出 Agent Teams,允许多个角色专属 Agent 在桌面端并行运行,处理长时间、复杂任务。该系统采用 Leader、Worker 和 Verifier 角色,配合状态机 Team Engine,让任务在生成、验证和完成之间循环,并将 TokenPlan 与 Agent Plan 合并为一个订阅,覆盖 CLI、API 和 Agent,横跨 M2.7、音乐、视频和语音。MiniMax 表示该 Agent 即将开源,预计与 MiniMax M3 模型一同发布,桌面应用目前已可用。
推荐理由:MiniMax 解释了其 Leader-Worker-Verifier Agent Team 背后的设计权衡,包括交接、共享和聚合成本,为构建多 Agent 运行时提供了具体参考。
Modal 正在向 Team 和 Enterprise 计划的所有用户提供基于角色的访问控制(RBAC),其构建以环境作为可强制执行的安全边界。受限环境默认使工作区成员为只读,只有被明确授权的用户或代理才能部署和管理资源,并且 RBAC 与审计日志相结合,可完整记录谁在何时做了什么。