Google Cloud API Gateway 现已在公开预览版中支持流式传输，使 SSE、分块 HTTP、WebSocket 和 gRPC 流式端点能够与现有 API 一样，置于同一网关和策略之后。创建网关时只需一个 --enable-streaming 标志即可启用流式传输，无需更改 API 规范，并且 API 密钥强制执行、JWT 验证、服务账号认证以及 Cloud Logging 和 Monitoring 均照常工作。网关还会获得确定性的默认主机名 GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev，流最长可保持打开一小时。
Modal 发布了 Modal Dojo，这是一个训练库，提供构建模块、调优好的默认配方以及一个可观测性仪表盘，用于生产级 LLM 后训练。它基于开源框架 Miles 和 Slime 构建，支持从 5 亿到数万亿参数的模型，并暴露 API 和 CLI，智能体可以驱动它们来启动和调试运行。Modal 表示，Axiom Bio 使用它将 DeepSeek V4.1 Flash 的 64k 上下文运行扩展到 64 块 B300，Afterquery 则以 256k 上下文长度训练 Kimi 和 DeepSeek。
在低代码平台被证明过于僵化且不透明之后，Acuity Health 在 LiveKit 上重建了其患者接入语音智能体，如今 80% 的来电完全由 AI 智能体处理。智能体基于 LiveKit Inference 运行，使用 Gemma 4 31B 模型，大多数预约在一分钟内完成，81% 的预约通话以“谢谢”结束。LiveKit Simulations 会在发布前针对患者画像测试每一项变更，一次提示词审查削减了约 24% 的用词，同时仍能通过相同的场景测试。
Google 的 Agents CLI 现已包含扩展系统（Extension System），该系统在 v1.5.0 中引入，允许开发者在不 fork 工具的情况下覆盖或添加命令，而 v1.8.0 发布了首个官方 LangChain 扩展。该 LangChain 模板可搭建一个不依赖 google-adk 的项目，并通过与 ADK 项目相同的代码路径部署到 Cloud Run，而 playground、run 和 eval generate 等六个与 ADK 耦合的命令则被替换或明确拒绝执行。扩展以 Git 仓库中的目录形式分发，并通过 lockfile 固定确切的 commit SHA，该系统在 v1.8.0 中标记为实验性。
Sakana AI 于 2026 年 10 月 5 日举办了第二届工程师开放日，涵盖应用研究工程师、前向部署工程师、软件工程师、解决方案工程师和网络安全工程师五个工程岗位。CEO David Ha 阐述了基于预训练、使用 Namazu 进行后训练以及通过 Fugu 进行编排的“AI 主权”战略，此前该公司在过去六个月中将产品组合扩展至 Sakana Chat、Marlin、Fugu 和 Translate。活动还详细介绍了与日本金融机构和国防项目的合作，包括与防卫省情报本部及防卫创新科学技术研究所的研究。
Mistral 发布了 Voxtral 3，这是一系列语音转文本和文本转语音模型，外加一个基于 LiveKit 构建的语音智能体 SDK，可在单一流水线中流式完成聆听、推理、工具调用和说话。Voxtral Small Transcribe 3 覆盖 50 多种语言，支持说话人分离和上下文偏置；Voxtral Mini TTS 3 支持 35 多种语言和 50 多种方言；该技术栈可通过 Mistral 的欧盟托管 API 或自部署获取。定价为批量转写每分钟 0.0035 美元起，TTS 每 100 万字符 13 美元。
推荐理由：Mistral 的 Voxtral 3 将多语言语音模型与基于 LiveKit 的语音智能体 SDK 相结合，为团队提供了一个可主权部署的实时语音智能体选项。
Zyphra 发布了面向 AMD Instinct MI355X GPU 的 Zyphra 优化引擎（ZOE）第二波，在其 vLLM 和 SGLang 的生产分支中加入四个用于 MoE 和稀疏注意力的定制 HIP 内核。40x）。3 checkpoint 在四个推理基准上与 FP8 相差不超过 3 分，但仅在高并发下解码更快。
Waymo宣布正在西班牙为其全自动驾驶网约车服务奠定基础，首先从马德里地区开始，目标是于2027年迎来首批乘客。电动Jaguar I-PACE车辆将在未来几天出现在该地区街道上，先由人工驾驶，之后由当地培训的自动驾驶专家进行技术验证。Waymo援引超过2000万次已完成行程以及超过4亿公里全自动驾驶里程的数据，称在其运营的城市中，涉及严重伤害或更严重后果的碰撞事故比人类驾驶员少95%。
Google 发布了 Meta TorchTitan 的 TPU 分支版本，该版本通过 TorchTPU 原生的 torch.device("tpu") 后端在 Cloud TPU 上运行 PyTorch 训练，配备 TPU 原生内核和分步优化手册。在 TPU v7x（Ironwood）上，Llama 3 405B 在 128 至 1,024 芯片范围内保持约 57% MFU，Qwen3 235B 在单个 1,024 芯片切片上达到 32.42% MFU，FLUX.1 在 1,024 芯片上以 93% 弱扩展效率达到 19.4% MFU。该分支位于 https://github.com/google-pytorch/torchtitan/，此外还有 Transformers 建模后端和 agent 接入技能，可将同一训练器扩展到其他检查点。
推荐理由：Google 与 Meta 合作把 TorchTitan 移植到 TPU，并给出从 FLUX.1 到 Qwen3 235B 的逐级调优路径与 MFU 数字，可作为 PyTorch 团队评估 TPU 训练可行性的参考。
Modal 推出 Sticky Sessions，在其低延迟的 Modal Servers 之上，将同一会话中的每个请求固定到同一个容器。开发者通过 @modal.sessioned() 装饰器创建带会话的 Server，并通过 SDK 或 HTTP API 启动会话，自动扩缩容由活跃会话数而非请求量驱动。
Modal 对 NVIDIA 新款 Arm 兼容 Vera CPU 服务器进行了基准测试，测得任务吞吐量最高可达同等 x86 GNR 机器的两倍，且单任务延迟持平、有时更低。结果来自 Agentless Agent Bench、50 个 Terminal-Bench oracle 解决方案与验证器，这些内容已移除网络调用，并在并发 Docker 容器中运行。Modal 将这一提升归因于 Vera 在并发容器累积时仍能保持节奏，并将其与高内存带宽联系起来，同时表示支持 Arm 需要在其基础设施和镜像构建系统上做出改动。
Legora 现在将每一项法律 agent 评估都放在独立的 Modal Sandbox 中运行，启动其完整应用并固定到特定 commit，使每次运行都反映确切的产品版本。一次典型实验包含 100 个用例、4 个 harness 变体、每个 5 次试验——即 2,000 次并行运行——并由 Modal Volumes 对文档、数据库和权限状态进行快照。Legora 还从 gVisor 迁移到 Modal VM Sandboxes，移除了其 Docker 网络和 FUSE 变通方案，并通过更智能的压缩和自定义工具搜索将 agent 成本降低了 30%。
Modal 详细介绍了它如何演进其文件系统栈以支撑 VM 沙箱，将客户机请求经由 virtio-fs 和 virtiofsd 路由到其 ImageFS 懒加载文件系统上。第一个版本启动很快但运行缓慢：递归 chown 从四秒变成一分多钟，pnpm 和 bun 安装大约慢了三倍。微基准测试显示，chown 在 virtio-fs 上耗时 9.87 秒，而在 gVisor 上为 2.31 秒，在 ImageFS 上为 1.58 秒。
Replit 正在推出自带云（BYOC）选项，让企业可以在自己的 Microsoft Azure、Google Cloud 或 Amazon Web Services 租户内运行 Replit 平台和已发布的应用。完整版 BYOC 处于私人预览阶段，将 Replit 的 cells 和 agent harness 部署在客户的云中；而面向已发布应用的 BYOC 处于早期访问阶段，将已发布的项目托管在那里，由 Replit 管理平台。Image Exports 则为企业团队提供 Docker 镜像、Terraform 文件和 SBOM，以便自行托管用 Replit 构建的应用。
PJ 是佛罗里达州奥卡拉的一名工程师出身的害虫防治公司老板，现在为小企业提供咨询——包括屋顶、泳池和汽车承包商——帮他们搭建 OpenClaw 并教他们自己运行。他的客户想要一个完全属于自己的工具，而不是把公司数据喂给租来的软件，其中一位客户、66 岁的行政人员 Donna 每天都在使用她的 OpenClaw。
LiveKit 的指南汇集了解决方案架构师和前置部署工程师的经验，讲述如何将 AI 语音智能体从演示推向生产，围绕三个问题展开：智能体是否足够智能和自然、其性能是否可观测、以及是否能可靠且经济高效地扩展。指南建议单独测量第一轮交互，因为一家公司发现大约 3/4 的通话在问候环节就结束了；并指出客户在 LiveKit Inference 上从 GPT-4.1 迁移到 Gemma 4 31B，在 p50 上节省了 300–500ms。
Claude Code 团队介绍了其分层代码审查流程：大部分阅读工作由机器完成，人的注意力则保留给基于风险的审批。6 月至 9 月，Claude Code 代码库中合并的拉取请求数量增长了一倍多，而不得不回滚的比例下降了 40% 以上。该流程在 PR 之前叠加验证、必需的 CI、Claude 审查、安全审查、按风险分级的人工审批，以及带标志和快速回滚的合并队列；团队还将过去的事故转化为审查者的每日评估集。
推荐理由：Anthropic 的 Claude Code 团队详细说明了如何将大部分代码阅读转移到自动化层，同时合并的 PR 翻倍、回滚下降超过 40%，为大量使用智能体的团队提供了一个可迁移的审查模型。
Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents，并以 BitHuman 的开放权重 Expression Video Avatar 为例，由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点，并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上，同时用 GPU 快照隐藏冷启动。
Meta 发布了 Muse Spark Open 的权重，Modal 现已通过其 Auto Endpoints 以按 token 计费的方式提供该模型。该模型面向智能体编程和长周期任务，具备原生多模态理解、100 万 token 上下文窗口、多步规划、顺序工具调用和故障恢复能力。Meta 报告称，在 Terminus 2 智能体下 Terminal-Bench 2.1 得分为 76.4，在使用其首选 harness、xhigh 推理强度下 DeepSWE 1.1 得分为 60。
推荐理由：Meta 的开源权重模型 Muse Spark Open 现已在 Modal 上提供服务，让团队能够以按 token 计费的方式试用一款具备 100 万 token 上下文窗口的智能体编程模型。
GitHub 训练了一个经过微调的 ModernBERT 分类器，用以替代其此前基于 LLM 的通用密钥检测流水线，使按所有者加权的告警精确率提升了 11.5%，并将推送后扫描执行时间中位数缩短了 86%。该两阶段流水线先通过正则表达式生成候选，再进行上下文感知分类，与远程 LLM 调用相比还将服务成本降低了 98% 以上。效率的提升使得将通用密钥检测扩展到推送保护成为可能，从而在变更被推送之前就返回结果。
Modal 年化收入突破 10 亿美元，并以 157.5 亿美元投后估值完成由 Accel 领投的 7.5 亿美元 D 轮融资，所有现有投资方均参与。公司称，自五个月前 C 轮融资以来使用量已增长两倍，同比增长超过 15 倍，仅其 Sandboxes 产品年化收入就达 3 亿美元，已启动近 30 亿个沙箱。Modal 还介绍了其在覆盖 20 多个云的容量池上重建自有文件系统、容器运行时、调度器和网络，并提到近期推出的多节点训练、Modal 服务器以及 Sandboxes 的正式可用虚拟机。
推荐理由：Modal 的博文解释了为何 AI 工作负载促使其在 20 多个云上重建自有文件系统、容器运行时和调度器，具体展现了 AI 基础设施栈如何与云栈分化。
LiveKit 发布了 Egress 的排查指南，涵盖常见错误，例如模板从未调用 START_RECORDING 导致的 412“未收到启动信号”、30 秒内未找到参与者或轨道导致的 404，以及 S3/GCP/Azure 凭证无效导致的 400 上传失败。指南还涉及布局、webhook 和自托管 Egress 问题，并指出该指导同时适用于当前的 StartEgress API 和已弃用的特定源 API。
Modal 在 agentic coding 任务上训练 Qwen3.6-35B-A3B，采样器分布在六种加速器类型（B200、B300、H100、H200、A100、RTX PRO 6000）上，采用 NVFP4、FP8 和 BF16 精度，向 B200 上的单个 BF16 训练器供给数据。普通 GRPO 在混合与同构采样器上均崩溃，但加入掩码重要性采样加分数中心化（无论是否配合 top-p 掩码重放）后，训练稳定进行到最后，并在 SWE-bench Pro V2 pass@4 上达到与同构采样器相当的水平，每次更新的采样器成本约低 15%。混合采样器运行时的平均采样器-训练器 KL 是同构设置的 4.7 倍，作者认为稳定性取决于将失配保持在有界范围内，而非保持低值。
Amazon Web Services 研究人员提出 priming，一种复用预训练 Transformer 权重的方法，可将混合状态空间架构的预训练成本降低 99% 以上，仅使用源模型预训练 token 预算的不到 0.5%。在受控比较中，Gated KalmaNet 优于 Gated DeltaNet 和 Mamba-2，而基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 表现相当，同时在 128,000 token 上下文下解码速度最高可达两倍。团队以 Apache 2.0 许可证发布了 8B 和 32B 的 primed 混合模型、训练代码、Triton 内核以及 vLLM 服务插件。
推荐理由：Amazon Web Services 研究人员表明，复用预训练 Transformer 权重可将混合架构预训练成本降低 99% 以上，使状态空间层的受控比较变得可行。
Apple 推出了 Apple HomeView，这是一款 7 英寸 Liquid Retina 智能家居显示屏，集娱乐、FaceTime 通话、家庭监控和免手动自动化于一体，在美国售价 299 美元。该设备通过人脸识别用户以呈现其个人内容，并运行 Siri AI——这是 Siri 的一个新的、更具对话性的版本，在与支持 Apple Intelligence 的 iPhone 或 iPad 配对时可以利用个人上下文。10 月 13 日在澳大利亚、加拿大、印度、新西兰、英国和美国开启预购，11 月 13 日星期五开始发售；Apple 表示 HomeView 不在欧盟销售，因为 Siri AI 目前在当地的 iOS 上不可用。
Vapi 工程师 Lat Ware 复盘自建 Pedantic Review Bot 的实践，该机器人现已审查每个 PR，平均合并时间从 130 小时降至 65 小时。
Descript 于 2026 年 10 月 12 日发布的版本新增了覆盖整个云盘的搜索栏，配有完整的结果页面和 Underlord 文件查找功能。企业版云盘现在可以发送异步录制请求，让嘉宾按自己的时间安排录制；AI Speech 迁移至 ElevenLabs v4，语音克隆更准确。付费方案还默认使用 MiniMax H3 Max Turbo 进行 AI 视频生成。
Modal 发布了 Endpoint Candidates，现已面向所有工作区正式可用。用户可以为 Dedicated Endpoints 部署替代版本，在 Modal 运行基础设施的同时镜像一部分生产流量。用户可以查看延迟和吞吐量指标、运行基准测试，并通过每个 Candidate 自己的 URL 测试输出质量，然后在仪表板中将其提升为生产版本。镜像请求为尽力而为，按 Modal 标准计算价格计费。
Serve AI 在 LiveKit 上为一位价值 1.5 亿美元的害虫防治客户重建了其电话代理，将 224 个节点的 Retell 流程图压缩为单一提示词，并用 Agent Simulations 进行了验证。约 100 通真实生产通话被转换为模拟场景，在切换前经过 10–15 次迭代达到 98% 的通过率，中位轮次延迟为 1.3 秒，低于 1.5 秒的上限。首次迁移耗时一周，无回滚，遏制率提升了 15%，Serve 估计这每年为客户额外节省 32 万美元。
LiveKit 已向所有 LiveKit Cloud 项目全面开放 Agent Simulations，这是一种在任务层面而非逐轮测试语音智能体的可重复方式。一个由 LLM 驱动的模拟用户会演绎每个场景，在音频模式下还包括附和语和打断，并由一个 LLM 评判员给出带有理由的通过/失败判定；CLI 可以从智能体自身的提示词和工具生成场景。文本运行是默认方式，成本足够低，适合每次拉取请求都运行，而音频运行覆盖完整流水线，更适合夜间或发布前的计划。Simulations 在十月前免费，但它们会以正常费率调用真实智能体的 LLM、STT 和 TTS。
Anthropic 发布了一份 Claude Managed Agents（测试版）的参考实现，该实现按 cron 计划读取 Slack 频道和 GitHub 拉取请求，通过按来源分别记录的书签追踪自上次运行以来的变更，并向 Slack 发布简报。该详解涵盖由 vault 保管的凭据、只读访问和单次运行支出上限，以及将某个来源读取失败报告为不可读而非视为平静无事的规则，还有在更新书签和账本之前先确认 Slack 发布成功的规则。一个带有 claude-api 技能的 Claude Code 命令可根据文章中的指导配置该智能体。
推荐理由：Anthropic 分享了一个定时 Claude Managed Agents 的参考实现，该实现读取 Slack 和 GitHub，并针对书签、读取失败和发布确认给出了具体规则。
Zyphra Research 表明 MoE 路由具有高度结构性：同一层内被共同选中的专家相互关联，且一个 token 的专家选择可预测后续层的路由。利用这一点，通过相关专家放置和 token 重排，在 MI300X GPU 上的 Megatron-LM 实验中，将全对全通信时间最多缩短 2.63 倍，端到端训练步时间最多提升 1.41 倍，且不改变架构或路由决策。
GitHub 推出了一个由 Microsoft Applied Sciences 合作构建的 AI 驱动的通用密钥检测模型，这是一个 ModernBERT 分类器，可在两毫秒内结合上下文评估候选密钥，并可能使推送保护拦截的密钥数量增加一倍以上。
3 并将其部署到生产推理栈上，由廉价探针过滤对话轮次，只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%，每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元，且在 SGLang 内未带来可测量的吞吐损失。
推荐理由：Goodfire 表明，探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用，且无可测量的吞吐损失，为安全地服务开放模型提供了具体方案。
Addy Osmani 详细介绍了 Claude Code 云会话：每个任务都在一个全新的、由 Anthropic 管理的虚拟机上运行，仓库被克隆到各自的分支上；云会话包含在 Pro、Max、Team 和 Enterprise 套餐中，不额外收取计算费用。在一个示例 Node 仓库上进行的四会话测试中，三个会话在彼此相隔 16 秒内启动，并在第一个会话开始后 87 秒完成；那个不稳定测试会话将测试套件运行了 40 次，零失败。该指南涵盖设置脚本、网络级别、GitHub 连接路径以及适合云会话的七种工作流，同时指出对于需要本地数据、VPN 服务、GPU 或零数据保留的任务，本地会话仍然是更合适的选择。
推荐理由：一份关于 Claude Code 云会话的实战指南，展示了按任务分配的虚拟机如何实现并行工作，以及本地会话在哪些场景下仍然更合适。
LiveKit 发布了一份面向开发者的对比，比较 Retell、Vapi 和 LiveKit 在构建语音 AI Agent 方面的差异，围绕四个问题展开选择：上线后由谁迭代 Agent、需求超出默认配置时会发生什么、是否必须运行在电话之外、规模化时的成本。Retell 是带可视化编辑器的托管平台，Vapi 是面向开发者的托管平台，通过 API 和仪表盘配置，LiveKit 是 Apache 2.0 开源框架，支持自托管。估算的每分钟综合成本约为：Retell $0.070–$0.310，Vapi $0.070–$0.116，LiveKit $0.037–$0.099。
Figma agent 已结束测试版，在指令遵循和长任务处理方面有所改进，在由专业设计师进行的人工评分评估中胜出超过 60%。新功能允许库所有者上传 markdown 指南，从 FigJam、Figma Slides 和 Figma Design 中获取上下文，并在画布上跟随协作者的 agent。Uber 的设计系统团队现在只需一个下午就能发布过去需要多人耗时数月完成的文档。
TypeSafe AI 使用 Modal 的无服务器平台训练和部署了其首个 System One Model——Jev，并在上线三天内处理了超过一万亿个 token。Jev 不是自回归 LLM：它以状态和问题为输入，并行输出带概率的类型化结构化值，面向低延迟工作负载。上线一周后，它登顶 OpenRouter 1K-10K token 上下文排行榜，处理了 15.1% 的请求。
腾讯的 AI-Infra-Guard（AIG）已集成到 ClawScan——这款为 ClawHub 提供安全审查的开源命令行工具，因此每个上传的技能和插件现在都会经过 AIG。ClawScan 独立运行 AIG 和 NVIDIA 的 SkillSpector，由 AI 裁判做出最终评估。在 SkillTrustBench 固定的 556 个案例子集上，ClawScan 与基准标签的匹配率达到 86.9%，并正确分类了 98.6% 的恶意案例。
Modal 宣布 Modal Clusters 已面向所有工作区正式可用，用户可通过单个装饰器 @modal.clustered 申请多节点集群。集群提供最高 6.4 Tbps 的 InfiniBand RDMA 通信，自动为 PyTorch 和 NCCL 完成配置，集群可在数秒内启动并按秒计费。Modal 还介绍了一款新的 gang 调度器，可一次性放置 N 个节点，并将 RDMA 支持内置于 gVisor 运行时；Decagon、1x 和 Runway 被列为用户，分别用于万亿参数微调、世界模型预训练和多节点视频推理。