跳到正文
5月12日周二
  1. Modal Blog58

    Modal 如何实现真正的无服务器 GPU

    Modal 发布了一篇工程文章,讲述其如何将 AI 推理副本的启动时间从约 2,000 秒缩短至约 50 秒,所用四个组件为:空闲健康 GPU 缓冲池、名为 ImageFS 的惰性内容寻址文件系统、基于 gVisor runsc 的宿主机侧检查点/恢复,以及基于 Nvidia 驱动支持的 CUDA 检查点/恢复。在超过一万次冷启动中,对于约 1 GiB 的 bf16 Qwen 3 0.6B 模型,vLLM 平均启动延迟从 95,679 毫秒降至 13,797 毫秒,SGLang 从 83,713 毫秒降至 17,486 毫秒。文章也指出了局限,包括快照仅支持单 GPU,以及宿主机环境敏感性要求每次部署需准备多个快照。

  2. Vapi Blog50

    Vapi 完成 5000 万美元 B 轮融资,其语音智能体通话量突破 10 亿次

    Vapi 宣布完成由 Peak XV 领投的 5000 万美元 B 轮融资,YC、M12、Kleiner Perkins 及原有投资方参投,总融资额达到 7200 万美元。此前一年,Vapi 的企业收入增长了 10 倍,其语音智能体处理的通话量突破 1,000,000,000 次。Vapi 表示,Amazon Ring 在两周内从评估阶段转为将其 100% 的呼入电话运行在该平台上,且 CSAT 有所上升。

5月11日周一
5月8日周五
  1. Berkeley AI Research38

    自适应并行推理:高效推理扩展综述

    伯克利人工智能研究院的一篇综述考察了自适应并行推理,即推理模型自身决定何时分解子任务、生成多少并发线程以及如何协调它们。文章将其与固定并行方法(如自一致性、Best-of-N、思维树、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference)进行对比,这些方法从外部强加并行结构。顺序推理在 token 和延迟上线性扩展,并存在上下文腐化风险,这促使人们采用独立并发探索的并行线程。

5月5日周二
  1. OpenAI Developers Blog50

    OpenAI 语音智能体实时提示指南

    OpenAI 发布了面向语音智能体的实时提示指南,涵盖 Realtime 2 推理、前言、工具以及精确实体捕获。该指南说明了如何构建提示词,使实时语音智能体在处理推理和工具使用的同时精确捕获实体。

5月4日周一
5月1日周五
4月30日周四
  1. OpenAI Developers Blog47

    面向 ChatGPT 和 Codex 的 OpenAI Developers 插件

    OpenAI 发布了一款 Developers 插件,让 ChatGPT 和 Codex 能够访问 OpenAI API Platform 和 API 设置指导,并针对 Claude Code 和 Cursor 做了适配,捆绑了可移植的开发者技能和公开的 OpenAI Docs MCP 服务器。该插件涵盖 API 密钥设置、使用 Agents SDK 构建应用、将 API 迁移到 Responses API,以及排查常见 API 故障。

4月29日周三
  1. Factory58

    Factory 对 13 个模型进行代码审查基准测试,发现 GPT-5.2 最佳、MiniMax M2.7 最便宜

    Factory 构建了一个开源基准测试,用来自 Sentry、Grafana、Keycloak、Discourse 和 Cal.com 的 50 个真实拉取请求测试 13 个模型,每个模型在高推理强度下对每个 PR 至少审查三次,并由 LLM 评审员根据人工整理的金标准集对发现进行评分。GPT-5.2 以 60.5% 的 F1 领先,每个 PR 成本 1.25 美元,领先于 Claude Opus 4.6 的 59.8% F1 和每个 PR 3.11 美元,而 MiniMax M2.7 以每个 PR 0.15 美元达到 45.6% F1,Kimi K2.5 以 0.41 美元达到 51.9% F1。Factory 表示成本仅解释约 21% 的质量差异,并开源了金标准集、评估脚本以及支持全部 13 个模型的 Droid Action GitHub Action。

  2. Modal Blog33

    在 Modal 上构建强化学习定理证明工作流

    AE Studio 详细介绍了其如何在 Modal 上通过强化学习训练 LLM 证明数学定理,在保持训练循环固定的情况下对比了进化策略与 GRPO。该方案在 GPU 上运行 vLLM 推理,在隔离的 CPU 沙箱中运行 Lean 编译器验证,并配备轻量级编排器,使用按函数镜像、.map() 扇出以及 Volumes 存储基础权重。

4月23日周四
  1. Factory55

    Factory 推出自动化 QA 技能,像真实用户一样测试应用并在 PR 中报告

    Factory 发布了一项自动化 QA 技能,它能像真实用户一样操作应用,填写表单、在终端中输入并调用端点,然后以单条评论的形式在每个拉取请求上发布结构化报告,包含截图、终端快照和 API 追踪。该技能通过 Droid 在每次推送时运行,可配置为可选的 CI 检查,由 PR 标签、评论命令或手动触发,也可在任何 Droid 会话中通过 /qa 在本地使用。设置使用 /install-qa,该功能现已在所有 Factory 计划中可用。

4月22日周三
  1. Replit Blog22

    Replit 荣获 2026 年 Google Cloud 年度 AI 工具合作伙伴奖

    Google Cloud 将 Replit 评为 2026 年度 AI 工具合作伙伴,认可该平台目前已被超过 5000 万人使用,覆盖 85% 的《财富》500 强企业。该奖项紧随 Replit 推出 Agent 4 之后,公司称其速度比 Agent 3 快 10 倍,并可并行运行多个智能体。Replit 已在 Google Cloud Marketplace 上架,并与 Cloud Run、Kubernetes Engine 和 BigQuery 集成。

4月20日周一
  1. Berkeley AI Research38

    GRASP:面向更长视野世界模型的基于梯度的规划

    GRASP 是一种面向学习型世界模型的新型基于梯度的规划器,通过将轨迹提升到虚拟状态以进行时间并行优化、为状态迭代添加随机性以促进探索,并重塑梯度使动作获得清晰信号,同时避免通过高维视觉模型产生脆弱的状态输入梯度,从而使长视野规划变得实用。该工作解决了使长视野规划变得脆弱的不良条件计算图、非贪婪局部极小值以及高维潜在失效模式等问题。该工作与 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun 和 Amir Bar 共同完成。

4月17日周五
  1. OpenAI Developers Blog60

    OpenAI 发布针对 GPT-6 工作负载的 API 部署清单

    OpenAI 发布了一份 API 部署清单,指导开发者将工作负载迁移到 Responses API 和 GPT-6 模型系列,包括 gpt-6-astra、gpt-6.1-sol、gpt-6 Sol 和 gpt-6 Luna。该指南涵盖从 low 到 max 的 reasoning.effort 级别、text.verbosity、带延迟工具加载的 tool_search、Programmatic Tool Calling、Multi-agent、compaction、prompt caching 和 WebSocket 模式,OpenAI 表示对于包含 20 次或更多工具调用的工作流,WebSocket 模式已显示出端到端执行速度提升最高约 40%。清单还详述了可靠性与安全步骤,例如处理 429 和 503 错误、为长任务设置 background=True、safety_identifier 以及 misalignment 监控。

    推荐理由:OpenAI 的官方部署清单将模型选择、推理力度、工具搜索、compaction 和 WebSocket 模式整合为一份针对 GPT-6 工作负载的迁移指南。

4月16日周四
  1. OpenAI Developers Blog60

    OpenAI Codex 应用更新扩展至工具、应用和自动化

    OpenAI 发布了 Codex 应用新更新的概述,旨在跨工具、应用、自动化及其他开发者工作流开展工作。该材料仅为简短摘要,因此未描述具体功能、版本和可用性细节。

    推荐理由:OpenAI 概述了 Codex 应用的更新,将编码智能体扩展至工具、应用和自动化,显示其范围正从代码生成向外拓宽。

4月15日周三
  1. Modal Blog58

    Modal 与 OpenAI Agents SDK:用沙箱和 GPU 构建并行编码智能体框架

    Modal 发布了一篇教程,介绍如何在 OpenAI 今日推出的 OpenAI Agents SDK 之上构建自定义编码智能体框架,使用 Modal Sandboxes 为智能体提供隔离的 Linux 环境和 GPU。该指南从一个最小的基于 exec 的智能体开始,随后加入用于记忆的会话、用于并行异步工作的编排器加子智能体池、GPU 配额、用于去重环境配置的文件系统快照,以及技能子系统,最终形成一个能在并行 GPU 子智能体上运行 OpenAI Parameter Golf 挑战的框架。Modal 引用了 Ramp 在 Modal 上运行的后台编码智能体集群,称其目前产出该公司超过一半的 PR。

4月14日周二
  1. Vapi Blog18

    Vapi 产品副总裁:对于差异化 AI 产品,基础比以往任何时候都更重要

    Vapi 产品管理副总裁 Nathalie Criou 在 HumanX 的一场小组讨论中与 Salesforce、Databricks 和 TinyFish 同台表示,AI 是放大而非取代领域专业知识和判断力等基础要素。她表示,Vapi 的平台建立在数百万次真实世界语音交互之上,形成了单次训练运行无法复制的组织记忆。该小组认为,先发优势等浅层护城河正在被侵蚀,而信任、转换成本和独特交互数据的复利速度更快。

  2. Vapi Blog27

    Vapi 工程师分享企业级语音 AI 部署经验

    Vapi 的前置部署工程师表示,从演示到生产的差距是大多数企业语音 AI 项目停滞的地方,这需要大量测试、防护措施和基于意图的设计,而不是精确短语匹配。该团队警告会出现“人格漂移”,即智能体会采用来电者的说话风格,并指出 LLM 是非确定性的,因此部署需要定义错误容忍度并持续迭代。他们建议从成本优化入手,但以创收为目标,并将一次良好交互的基准定在一分钟以内。

  3. Modal Blog40

    Modal 自动扩缩容自动研究:为 AI 研究智能体提供弹性 GPU

    Modal 演示了在弹性 GPU 上运行自动研究智能体:借助 Modal Skills,Claude Code 在 OpenAI 的 Parameter Golf 挑战中运行了 113 次实验,共消耗 238 GPU 小时,核心训练运行速度比单台工作站快 5 倍,而使用的资源仅为专用集群的一小部分。智能体通过 API 调用配置 GPU,可从一块 H100 自动扩展到数十块,并自动缩减至零。

4月10日周五
4月8日周三
  1. Modal Blog40

    Modal 为 Physical Intelligence 机器人提供实时推理能力

    Physical Intelligence (Pi) 将其视觉-语言-动作机器人模型运行在 Modal 上,仅增加约 10-15ms 的网络开销。Pi 与 Modal 合作,基于 UDP 构建了一个支持自动 NAT 穿透的 QUIC 门户,取代 TCP Tunnels,以避免机器人控制回路中的请求-响应停滞。存储在 Modal Volumes 中的检查点可在 30 秒内加载完成,区域固定部署使推理贴近机器人所在位置。

4月7日周二
  1. Modal Blog22

    Modal 产品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API

    Modal 现已提供 NVIDIA 的 RTX Pro 6000 Blackwell,配备 96GB 显存和强劲的 fp4/fp8 吞吐能力,只需一行代码即可用于推理和微调工作负载。此次更新还新增了仪表盘命令面板(CMD+K)、改版后的 Sandbox 文件系统 API(测试版,支持最高 5GB 的读取和双向流式传输),以及支持历史日志拉取的 CLI 日志命令。

4月1日周三
  1. Vapi Blog18

    Vapi 推出增强安全模式,保障企业语音 AI 音频隐私

    Vapi 发布了增强安全模式,称这是企业语音 AI 平台有史以来部署的最安静、最安全的音频隐私层,旨在防止 AI 智能体的语音在开放空间中被他人听到。该公司表示,其整个音频管线经过重新设计,在不引入延迟伪影的情况下反转了信号存在优化。早期访问覆盖了医疗保健、福利管理和急性后期护理机构,该功能现已可用。

3月26日周四
  1. Modal Blog38

    Runway 与 Modal 合作,为 Runway Characters 提供实时推理支持

    Runway 正与 Modal 合作,为 Runway Characters 提供实时推理支持。Runway Characters 是一个基于 Runway 的 GWM-1 世界模型构建的实时视频智能体 API,能够仅凭一张图片、无需任何微调即可生成富有表现力的数字角色。Modal 的无服务器平台让 Runway 在不到 30 天内从概念验证推进到生产环境,并在所有区域使用具备 RDMA 网络的单行多节点 GPU 集群。Characters 现已面向开发者和企业开放,网址为 dev.runwayml.com;面向消费者的网址为 runwayml.com。

3月25日周三
3月20日周五
  1. Vapi Blog38

    Vapi 网络研讨会解答关于 Composer 语音智能体构建器的热门问题

    Vapi 举办了一场网络研讨会,首席产品经理 Nick Robin 在会上演示了 Composer——其产品内助手,无需编写代码即可构建语音智能体,并在 30 分钟的演示中生成了一个可用的呼入客服智能体。Composer 可编写系统提示词、配置电话号码、设置日程安排,并标记自身错误以供审批。它目前处于 alpha 阶段,支持呼入和呼出助手、CRM 与日历集成,以及通过助手 ID 编辑现有智能体。

3月13日周五
  1. Berkeley AI Research38

    伯克利AI研究推出SPEX与ProxySPEX,用于识别LLM大规模交互

    伯克利AI研究的研究人员介绍了SPEX和ProxySPEX,这两种算法能够在远超以往方法的规模上识别LLM中具有影响力的特征、数据和模型组件交互。SPEX将交互搜索重新表述为利用稀疏性和低度性的稀疏恢复,而ProxySPEX利用层次结构,以约10倍更少的消融实验匹配SPEX。在情感分析上,SPEX在短输入上与Faith-Shap和Faith-Banzhaf忠实度相当,并在上下文扩展到数千个特征时保持这一表现。

3月12日周四
  1. OpenAI Developers Blog67

    OpenAI 更新 Sora 2 提示指南,新增角色参考、20 秒片段和视频延长功能

    OpenAI 更新了其 Sora 2 提示指南,以涵盖新的 API 能力:可复用的角色参考(适用于物体和动物)、1920×1080 和 1080×1920 导出、最大片段长度从 12 秒提升至 20 秒、使用完整原始片段作为上下文的视频延长,以及用于异步视频任务的 Batch API。该指南还详细介绍了镜头取景、摄像机运动、灯光和对话的提示结构,并指出分辨率、时长和角色 ID 必须作为 API 参数设置,而不是在文本描述中说明。支持最长 20 秒的延长,且一个视频最多可延长 6 次,总计 120 秒。

    推荐理由:OpenAI 更新的 Sora 2 提示指南详细介绍了新的 API 能力,如角色参考、20 秒片段和视频延长,以及用于控制镜头的可复用提示模板。

3月4日周三
  1. Modal Blog22

    Modal 产品更新:目录快照、GLM-5 端点和计费 API

    Modal 为 Sandboxes 新增了目录快照功能,用户可对单个目录创建快照,并将其独立于基础镜像挂载到新的 Sandbox 中。Modal 还与 Z.ai 合作发布了一个免费的公共 GLM-5 端点,有效期至四月底,兼容 OpenCode、Claude Code、OpenClaw 和 Vercel AI SDK。modal billing report CLI 和 modal.billing.workspace_billing_report API 现已面向 Team 和 Enterprise 工作区正式可用。

2月25日周三
  1. Vapi Blog35

    Vapi 发布 Skills 和 MCP 连接器,让编码代理能够构建语音代理

    Vapi 发布了 Vapi Skills,这是一个遵循 Agent Skills 标准的代码库,同时推出一个 Model Context Protocol 连接器,让编码代理能够实时访问 Vapi 的文档。一条安装命令即可加载分步说明以及精确的 API schema,用于 create-assistant、create-tool、create-call 和 setup-webhook 等工作流,该技能包可在 Claude Code、Cursor、VS Code Copilot 和 Gemini CLI 上运行。

  2. OpenAI Developers Blog62

    OpenAI 发布 gpt-5.3-codex 的 Codex 提示指南

    OpenAI 发布了一份 Codex 提示指南,面向通过 API 直接调用经 Codex 调优的 gpt-5.3-codex 模型的开发者,建议交互式编码使用中等推理强度,最难的任务使用高或 xhigh。该指南涵盖将现有 harness 迁移到开源 codex-cli,包括标准 Codex-Max 提示、apply_patch、shell_command 和 update_plan 工具,以及通过 Responses API 中的 /compact 为多小时的会话提供一流的压缩功能。它还介绍了新的 phase 字段,该字段仅在 gpt-5.3-codex 上受支持,用于将助手条目标记为 commentary 或 final_answer,且必须在历史记录中保留以避免性能下降。

    推荐理由:OpenAI 的官方指南详细说明了如何为 gpt-5.3-codex 调整提示、工具和压缩,为团队提供了针对自身编码智能体的具体迁移路径。

  3. Modal Blog22

    Modal 博客:Modal 如何加速加速 AI 研究的 AI 研究

    Modal 是一个面向数据密集型和计算密集型 AI 工作负载的云基础设施平台,它重点介绍了 Hazy Research、Scaling Intelligence 和 IRIS 的研究工作,这些研究利用其 GPU 集群来加速 AI 研究。由 Scaling Intelligence 的 Anne Ouyang、Simon Guo 和 Will Hu 领导的 KernelBench 项目提供了一个包含 250 个问题的基准和研究环境,用于自动化 GPU 内核生成,并使用 Modal 在从 L40s 到 Blackwell 系统的硬件上实现一致、可扩展的基准测试。

2月24日周二
  1. Vapi Blog38

    为你的 OpenClaw 智能体赋予声音:通过 Vapi Skills 添加电话通话功能

    OpenClaw 智能体现在可以通过 Vapi 兼容 AgentSkills 的技能拨打和接听电话,借助 npx skills CLI 或直接向智能体提出请求,约五分钟即可完成安装。Vapi 的处理流程目标是将语音响应控制在 500 毫秒以内,并支持通话中调用工具,共有八项技能,涵盖助手、通话、电话号码、工具、小队、webhook 和工作流。

  2. Modal Blog55

    Modal 公测推出 Directory Snapshots,用于保存 Sandbox 项目状态

    Modal 公测推出 Directory Snapshots,允许用户对运行中的 Sandbox 内特定目录做快照,并将其挂载到另一个 Sandbox,且独立于基础镜像和文件系统其余部分。该功能面向需要在沙箱重启之间保留项目状态的编码智能体和 vibe coding 平台;Modal 表示,它可将系统依赖与应用代码分离、预热沙箱池,并更快预加载关键文件。Directory Snapshots 在最后一次使用后保留 30 天,可即时挂载,其内容在 Modal 的懒加载容器文件系统上会优先预加载。

2月19日周四
  1. Modal Blog58

    Ramp 如何在 Modal 上构建全上下文后台编码代理 Ramp Inspect

    Ramp 构建了 Ramp Inspect,这是一个运行在 Modal Sandboxes 上的内部后台编码代理,如今 Ramp 前端和后端仓库中约有一半已合并的拉取请求由它发起。每个会话都能在几秒内启动包含 Postgres、Redis、Temporal 和 RabbitMQ 的全栈环境,因为一个 Modal 定时任务每 30 分钟克隆仓库并保存文件系统快照。Modal Functions、Dicts 和 Queues 负责处理快照构建、会话锁和提示路由,使 Inspect 能够支持多人会话和数百个并发会话,且彼此互不影响。

2月14日周六
  1. Charlie O'Neill38

    AI界的Michael Scott纸业公司:为什么开源专业化在智能上限上胜过前沿实验室

    Opus 4.6和GPT-5.3-Codex上周双双发布,但决定性的较量并非原始能力。该论点认为,大多数有经济价值的工作位于专业化层,在那里,一个用客户自有数据微调的80B以下模型在该客户的工作流上胜过GPT-5.2——更快、更便宜,且无需将专有数据发送给第三方。开源只需匹配智能上限,而非前沿,而实验室对资本的依赖时钟是更弱的处境。

2月11日周三
  1. Vapi Blog55

    Vapi 推出 Composer,一款可在仪表盘内构建语音代理的 AI 助手

    Vapi 发布了 Composer,这是一款内置于 Vapi Dashboard 的 AI 助手,可根据描述构建语音代理,撰写提示词、配置设置、开通电话号码、构建工具并设置集成。Composer 还可以调取通话日志来解释失败的通话并应用修复,以及生成在 Vapi 基础设施上运行的自定义代码工具,用于 HubSpot 等集成。它现已以 Alpha 版本提供,无需设置或引导流程。