Mastra 推出定制 Harness 计划,配备嵌入式前驻工程师
Mastra 推出定制 Harness 计划,由前驻工程师嵌入客户团队,共同构建量身定制的 agent harness。该计划包含可观测性、评估、自定义 MCP、人在回路工作流、认证与 RBAC,以及 Mastra 企业平台的早期访问权限。Mastra 援引 Workday 的案例:Workday 在 31 天内从 Amazon Bedrock Agents 迁移,削减了 3,000 行代码,并将向量存储成本降低了 98%。
Mastra 推出定制 Harness 计划,由前驻工程师嵌入客户团队,共同构建量身定制的 agent harness。该计划包含可观测性、评估、自定义 MCP、人在回路工作流、认证与 RBAC,以及 Mastra 企业平台的早期访问权限。Mastra 援引 Workday 的案例:Workday 在 31 天内从 Amazon Bedrock Agents 迁移,削减了 3,000 行代码,并将向量存储成本降低了 98%。
Buoyant 宣布推出 Kinference,这是一个采用 Apache v2 许可证的开源控制平面,可将兼容 OpenAI 和 Anthropic 的推理流量路由到 Kubernetes 上的 vLLM worker,并新增 token 速率限制、按租户的使用量与成本追踪、KV-cache 感知的负载均衡以及 YAML 推理策略。在该项目的公开基准测试中,与标准 Kubernetes service 负载均衡相比,Kinference 在某一工作负载上将首 token 延迟中位数降低了 95%,端到端延迟中位数降低了 45%;在容量测试中,共享前缀场景的有效吞吐量达到 7.4 倍,多轮对话场景约为 3.5 倍。策略可以将较简单的提示词路由到更便宜的模型,将突发溢出流量发送到 Bedrock 和 Databricks 等提供商,或将带有 PII 标记的请求保留在集群内;按租户的指标涵盖 token 速率、TTFT、ITL 以及缓存与未缓存的提示词 token。
推荐理由:Buoyant 的 Kinference 在 vLLM 之上增加了 KV-cache 感知的负载均衡和 YAML 推理策略,基准测试声称其相比标准 Kubernetes service 路由在 TTFT 和有效吞吐量上有大幅提升。
Clerk AI 基于 LiveKit 的开源框架和全球边缘网络运行企业级语音与消息智能体,无需预先配置即可处理超过 1,000 个并发语音会话。智能体响应时间低于 500 毫秒,原生支持 30 多种语言,ScreenSense 通话筛选准确率达 97%,TrueReach 语音信箱检测准确率超过 98%。该平台可完全掌控 STT、LLM 和 TTS 提供商,持有 SOC 2 Type II 认证,并内置 TCPA 合规能力。
Meta 推出了 F3 Lightning,这是构建在其 Facebook Feature Framework(F3)之上的基础设施层,它将特征发布与共享执行解耦,使 20,000 多个广告排序特征中的每一个都能独立编译、验证、部署和回滚。与之前的 F3 相比,同类提取特征现在进入生产环境的速度提升了约 3.6 倍,且基础设施计算成本没有增加。
Preferred Networks 将在 SC26 上展出其 MN-Core 系列。SC26 是于 11 月 15 日至 20 日在芝加哥举行的国际高性能计算会议,展台演示将于 11 月 17 日至 19 日进行。在 4606 号展台,该公司将展示其正在研发的 MN-Core L1000 推理 AI 芯片的结构模型和样机、MN-Core L 系列的未来规划、基于 MN-Core 2 Devkit 的现场演示,以及超高效 AI 计算基础设施的研发工作。
Figma 的代码层功能现已面向 100% 的用户开放测试,让团队可以直接在 Figma 画布上构建并对比由代码支持的原型。演示中,一位设计师将 GitHub 仓库克隆到代码层,提示 Figma 智能体并排生成三个配送地址变体,并在全屏代码编辑器中优化其中一个。Extract designs 可将屏幕或录制的流程转换为可编辑的设计层,并通过 Update code layer 将其送回原型;智能体还能将两位队友的代码层合并为一个组合体验。
OpenAI描述了训练激活分类器(即探针)的方法,这些探针读取模型内部的残差流激活,以标记助手输出中不对齐或违反策略的完成内容,并表示已从GPT-5.6开始在其最强模型的内部和外部流量上部署这些探针。探针采用Attention probe架构,包含MLP加QV-attention以及指数移动平均,使用由推理模型评判器标注的最多100万条消息进行训练,并在推理引擎上以流式方式运行,因此可以在回合中途阻止某个完成内容。OpenAI报告称,探针在许多后训练阶段之间具有出色的迁移能力,但在预训练检查点之间的迁移较为有限,并表示在其红队测试中,探针总体上比基于内容的分类器对越狱更具鲁棒性。
推荐理由:OpenAI详细说明了基于模型内部激活的激活探针如何作为流式安全层发挥作用,包括其在跨检查点迁移方面的局限以及重新训练的需求。
Sierra 围绕其常驻的智能体构建助手 Ghostwriter 重新设计了 Agent Studio,如今排查问题、编辑旅程和测试修复都在同一次对话中完成。Ghostwriter 会跟随你穿梭于旅程、模拟和仪表盘之间,每次会话都会将变更和测试结果保留在一起,直到队友审核并合并。Agent Studio 还将相关智能体归入同一项目,并新增逐行差异对比、Preview Chat、Simulations,以及带必需审批和受控发布的发布治理。
Google 开展了一项 50 道题的自动评分编码智能体基准测试,检验轻量级分类器 TypeSafe 的 Jev 能否将每项任务路由到仍能正确作答的最便宜 Gemini 配置。一个冻结的正则表达式与提示长度启发式方法在 16 道开发题上得分 93.8%,但在 34 项留出任务上下降 23.2 个百分点至 70.6%,而 Jev 在整个测试集上达到 96.0%。最强的无路由方案——Gemini 3.8 Flash 低思考模式——解决了全部 50 项任务;一个 Jev 路由器先将任务发送给 Flash-Lite、再对标记的任务升级,同样解决了全部 50 项任务,同时降低了成本和响应时间;将 maxOutputTokens 上限设为 300 在简单任务上未节省任何成本,却导致 25 项困难任务中的 7 项失败。
Zyphra 推出了 Zyphra Hierarchical Attention(ZHA),一种稀疏注意力方法,它构建一棵由压缩 KV-cache 摘要组成的树,并让查询自上而下地通过该树进行路由,在合适的 top-p 阈值下实现次二次复杂度。现有的预训练模型可以通过一个简短的 KL 蒸馏阶段进行适配,仅需使用几十亿个 token;在 Qwen3.6-35B-A3B 上,ZHA 增加了 81,920 个可训练参数,约占基础模型的 0.00024%。在 256K token 的 RULER-13 上,宽树模型得分为 96.2%,而稠密注意力为 96.0%;深六层树在 LongBench v2 上得分为 63.4%,而稠密注意力为 58.0%,同时只关注约 1.1% 的 KV cache;一个 GPU roofline 模型预测,在 10M token 时相比稠密注意力可实现 32-35 倍加速。
Ai2 的 Olmo 3 获得了 Nextcloud 最高伦理 AI 评级——绿色评级,该评级要求开源训练与推理软件、可自托管的已训练模型以及公开可用的训练数据。Nextcloud 将 Olmo 3 与其 llm2 本地 LLM 后端捆绑,并选择 7B 版本,以便没有 16 或 32 GB 显存的用户仍能获得良好的开箱即用本地体验。
Anthropic 发布了 FlashProve,这是一个开源原型,使用 zkSNARK 证明某个响应来自一个已承诺的模型,而无需暴露其权重。在 Llama 4 Maverick(400B 参数 MoE,4 位权重)上,单张 H100 以约 110 tokens/秒的速度生成证明,每 1,024 token 请求的证明大小约 19 MB,约为 vLLM 完成相同工作所需 GPU 时间的 70-95 倍。该发布包含可执行的证明器和验证器代码、一个 C++ 快速验证器、一个 Lean 验证器(其完备性、可靠性和零知识性陈述经机器检查),以及一份技术报告,全部采用 Apache 2.0 许可。
推荐理由:Anthropic 的 FlashProve 表明,基于 zkSNARK 的推理证明对于一个 400B 参数的 MoE 模型正变得实用,并提供了开放代码和经 Lean 检查的安全性声明。
Google DeepMind 正在将其基于 Gemini 构建的 AI 规划工具 PlanAssist 扩展至英格兰另外 12 个地方规划机构,使总数达到 15 个。自 6 月以来,在 Barnet、Camden 和 Dorset 的试点中,该工具将工作人员在住户评估任务上花费的平均时间最多缩短了 58%,其生成的报告中有超过 70% 未经编辑即获批准。
丰田与Waymo宣布其自动驾驶合作的下一阶段,将于2027年在日本初步运营并测试验证一支自动驾驶丰田bZ4X车队,随后计划部署至英国及其他Waymo服务市场。丰田将在爱知县丰田市的高冈工厂生产车辆,在同一厂区内完成基础车辆组装并集成Waymo的自动驾驶硬件。两家公司称此合作是日本首个使用大批量国产车辆的全自动驾驶网约车服务的里程碑。
将知识蒸馏与Medusa框架结合,使拥有11亿参数的TinyLlama学生模型在质量上匹配其700亿参数的Llama-3.1教师模型,同时运行速度快10至20倍,成本不到三分之一。在与Booking.com合作开发AI Trip Planner、Smart Filters和住宿描述生成时,该流程弥合了超过90%的质量差距,并通过Medusa头额外实现了2至3.6倍的加速。
Meta已将Catching JiTTests——其基于LLM的即时测试生成方法——从研究原型转入生产基础设施,并在FSE 2026论文《Just-in-Time Catching Test Generation at Meta》中公布了结果。该系统利用空闲算力在夜间运行,针对高风险diff,通过dodgy-diff和意图感知工作流生成测试,并在结果送达工程师之前,用LLM-as-Judge集成加上基于规则的RubFake评估器过滤误报。截至撰写时,589名工程师(占触达人数的64%)参与了结果互动,结果显示真阳性率为60%;在2026年上半年,该系统在diff阶段捕获了74个严重隐私缺陷,并将隐私SEV降低了20%。
DevFest 是 Google 开发者社区(Google Developer Groups)主办的社区主导型开发者活动系列,将于 2026 年 10 月 1 日至 12 月 31 日回归,预计在 115 个国家举办 800+ 场活动,吸引近 100 万名参会者。会议与工作坊涵盖 Google AI 技术以及 Google Cloud、Android 和 Web 方向,主题围绕智能体时代的构建、安全与扩展展开。活动由基层组织者以当地语言举办,演讲嘉宾包括 Google 开发者专家和 Google 工程师。
inclusionAI 发布了 Ling-3.0-flash-Sante-fp8,这是其医疗健康专用模型 Ling-3.0-flash-Sante 的 FP8 量化版本,保持 124B 总参数和每 token 5.1B 激活参数。它在医疗健康基准测试上的平均分为 73.9,与 BF16 检查点持平,同时降低了支持 FP8 的硬件的权重内存占用。该仅用于研究的模型支持 256K token 上下文,默认使用带工具调用的思考模式。
Meta 详细介绍了其个性化广告检索引擎 Andromeda 的下一代版本,该引擎在生产环境中每秒对超过 10 亿条广告进行评分——相比 2024 年的系统吞吐量提升 100 倍。新架构将受 LLM 启发的混合专家模型引入检索环节,以约 300 分之一的推理 FLOPs 接近排序级模型性能,在单块 NVIDIA GH200 GPU 上每秒可处理超过 100 亿条广告。自 2025 年以来,Andromeda 已在 Facebook 上带来 2.4% 的转化率提升。
Replit 公布了 Agent Habitat 背后的架构,该产品让智能体能够在公司控制的边界内访问公司知识和系统。文章提出了四项原则:对智能体的最小权限、故障遏制、可问责的生产变更以及可治理的委托工作。Replit 表示,其现有的 microVM 隔离机制阻止了近期披露的 Linux 内核漏洞被利用,并且连接器凭据保留在智能体的上下文之外,由凭据代理在从保险库检索密钥之前对每个请求进行授权。
Zenrin、Zenrin DataCom与Preferred Networks已签署业务与资本联盟协议,Zenrin旗下公司认购了PFN的第三方定向增发。合作方将把持续更新的地理空间数据(包括历史变更记录)与PFN的生成式AI、物理AI及三维空间识别技术相结合,构建能够理解和预测现实世界变化的AI模型。初期重点领域包括公共部门、房地产、零售与流通,瞄准需求预测、门店选址以及城市规划、防灾和物流模拟。
Figma 详细介绍了它如何为其 Figma agent 训练一个第一方设计编辑模型:首先在合成编辑请求上进行监督微调,这些请求以 Figma 原生文件格式表示,并通过确定性检查和视觉模型评判器进行验证。
Meta 详细介绍了 PrivacyLib,这是一个嵌入其数百个数据处理与数据系统客户端的通用库,在数据访问点强制执行隐私要求,每秒执行数十亿次检查。系统只需集成一次,新的隐私能力便以插件模块形式发布,取代了以往可能需要数月的逐系统实现方式。一个 Agent Observability 模块通过将智能体上下文传递给 PrivacyLib,来追踪内部 AI 智能体的数据访问。
Google 在 Google Play services 中发布 LiteRT 端侧推理运行时,其 GPU 推理速度约为旧版 GPU delegate 的 1.4 倍,并新增 CompiledModel API。
Replit 面向现有代码库推出 Cloud Agents,团队中任何人都可以用自然语言描述一项改动,由智能体在 GitHub 或 GitLab 中发起一个经过测试的拉取请求,所有 Pro 和 Enterprise 客户均可使用。该智能体在隔离的云沙箱中运行每项改动,点击浏览运行中的应用,并将截图和视频附加到 PR 中;共享环境为每位贡献者提供预配置的设置,并会从主分支更新。Replit 还推出了早期访问的自改进工作区记忆功能,可将评审评论转化为由工程师批准的团队技能,以及一项 Slack 集成,用户可在话题中提及 @Replit 来发起改动。
推荐理由:Replit 把 Cloud Agents 接入企业既有代码库,让非工程人员以带测试视频的 PR 形式提交改动,展示了 AI 编码工具向团队协作流程延伸的一种路径。
Sakana AI 已为其 Sakana API 平台开放早期访问计划,为企业客户提供其大语言模型的 API 访问,并支持在组织和工作区层级管理成员与使用成本。该 API 兼容 OpenAI,只需更改端点即可使用;首批上线 Sakana Fugu 和 Fugu Ultra,Sakana Namazu 和 Fugu Max 将随后推出。功能包括基于角色的访问控制、CSV 审计日志、预算限制、发票付款、MSA 和 DPA,以及承诺不使用客户输入进行训练。
Google Cloud 开发者构建了 HappyDelivery,这是一个使用 LangGraph、Gemini、FastAPI 和 Google Cloud 的对话式商务可运行原型,遵循了此前由 Ingress、Memory 和 Cognition 组成的三层蓝图。Ingress 层验证 WhatsApp、RCS、Apple Messages 和 SMS 的平台特定 webhook 签名,将负载规范化为通用 schema 并卸载到 Pub/Sub,在约 300ms 内返回 HTTP 200。文章详细介绍了代码、状态机、确定性金融工具和自动化验证套件。
Google 为其面向生成式 UI 的智能体优化协议 A2UI 发布了可替换推理格式,允许智能体生成一种中间格式,再由 SDK 编译器将其转换为经过验证的 A2UI 消息。新的默认格式 A2UI Express 在相同 UI 下使用的 token 比 Direct JSON 最多少 3 倍,并将延迟最多降低 3 倍,已在 Python(a2ui-agent-sdk 0.9.0)、TypeScript(@a2ui/agent)和 Dart SDK 中提供。Google 还展示了 TypeSafe 的 Jev 等决策模型在预定义布局中进行选择,称这可将延迟最多降低 80 倍;在 Apparite 示例中,11 个提示下的屏幕均在 0.8 至 1.7 秒内完成。
Preferred Networks 于 2026 年 10 月 27 日开始提供 PLaMo 3.1 Prime,新增网页搜索和 Deep Research 功能,后者可在数分钟到数十分钟内自主规划、收集、分析并撰写带来源引用的报告。Deep Research 还支持本地部署,并可连接内部文档检索系统;该公司称,与 PLaMo 3.0 Prime 相比,在包括 AA Omniscience 在内的八项幻觉相关基准上平均得分提升约 15%。PFN 还提到,通过推测解码处理速度提升 1.7 倍,非推理模式下输出 token 减少 90%,并推出了免费的 PLaMo API 套餐以及 PLaMo Chat 活动,在 2026 年 11 月 30 日前每天提供两次 Deep Research。
推荐理由:PFN 的 PLaMo 3.1 Prime 新增了可本地运行的自主 Deep Research,为日本企业提供了一个可本地部署、用于带来源引用的调研工作的选项。
Apple 宣布对 Apple Creator Studio 进行更新,为 Keynote、Pages 和 Numbers 带来基于 Apple 及第三方模型的智能助手,并支持 Model Context Protocol,使外部 AI 代理可以读取这些应用中的内容并执行编辑。Mac 版 Final Cut Pro 现已内置 MotionVFX 和 Content Hub 库存视频,Logic Pro 新增测试版助手和可分离鼓声的 Stem Splitter,Pixelmator Pro 则加入 Generate Fill 用于自然语言图像编辑。这些更新将于今年 11 月在 App Store 上线,现有订阅用户免费,新订阅价格为每月 12.99 美元或每年 129 美元。
Replit预测,到2030年底,每一家《财富》500强公司都将成为“自动驾驶公司”,由智能体执行和协调工作,而人类负责设定目标并承担最终责任。Replit表示,2026年上半年其工程师的代码产出几乎增长了两倍,而评审时间、回滚和产品事故数量保持持平。Replit for Business正作为这一愿景的基础进行构建;在SMFL,一个此前需要六个人花六个月完成的开发流程,由一个人在一周内完成。
Vapi 已推出流量分割功能,让团队可以在正式切换前,将 0.1%、1% 或 5% 的呼入和呼出电话路由到新的智能体版本。此前,发布新的助手版本会立即将 100% 的流量发送到该版本。该功能包含“粘性”机制,使重复来电者保持在同一个版本上,Vapi 建议从双向分割开始。
Mastra 正在以先到先得的方式,向另外八家设计合作伙伴开放其 Knowledge 服务,这是一个面向 AI 智能体的自托管全公司上下文层。Knowledge 可连接 Slack 和 Monday 等系统,保持自身数据实时更新,并支持按职能划分独立知识库,权限可细化到个人、团队和组织层级。Mastra 表示,将全公司知识图谱接入其编码智能体后,交付代码的质量有了明显提升。
Google Research 在 IDWeek 2026 上介绍了其胸部 X 光结核病筛查模型如何从 2019 年《Radiology》上的一项基准测试,发展为经 CE MDR Class IIb 认证的工具,并由合作伙伴 Nexus AI 在六个国家的约 40 家医疗机构部署。已有 90 多名临床医生评估了超过 25,000 张胸部 X 光片,将周转时间从数周缩短至 45 秒以内,该工具还被部署在南非 Mponeng 金矿地下四公里处的离线环境中。Google 已通过 HAI-DEF 开源了胸部 X 光嵌入和 MedSigLIP,并发布了 MedGemma,称其下载量已超过 1000 万次,同时印度尼西亚卫生部正在利用国内 X 光片对这两个模型进行微调,以支持一项全国性筛查计划。
亚马逊发布了 TorchNeuron,这是一个开源 PyTorch 后端,可将 PyTorch 代码转换为可在 AWS Trainium 系统上执行的操作,且只需极少代码改动或无需改动。它新增了一种可选的自适应 eager 模式,通过分组并编译操作来接近编译模式的性能,还提供多级 NEFF 缓存;在一项 64 进程的 LLM 测试中,共享编译服务将首次训练步骤的时间缩短了约三分之一。Annapurna 团队使用从数十万个开源模型中提炼出的 841 个代表性模型对其进行了调优和基准测试。
Modal 的前沿部署工程团队与 Sakana AI 合作,在 Modal 上运行 Sakana Namazu——一个针对日本商业语境调优的约 1T 参数 MoE 模型——以支持其公开 API 上线。团队仅对路由专家应用选择性 NVFP4 量化,注意力、路由器和共享专家保持 BF16,并基于日语为主的对话进行校准,使全部 23,040 个专家都看到有代表性的流量。一个基于超过 300 亿原始 token ID 训练的定制 DFlash 草稿模型将推测 token 接受率提高了 25%,并将每 token 解码延迟降低约 35%;另一个基于约 100 万真实请求训练的草稿模型将平均接受长度从 3.51 提升到 5.01,并将 p99 延迟从 68 秒降至 52 秒。
Figma agent 现已正式可用,Figma 说明了如何将你的设计系统接入其中,使其输出与你的产品保持一致。连接已发布的库可让 agent 使用经批准的组件和 token,而 guidelines 文件用于编码团队规则,Examples 页面或 _example 命名则提供可复用的模式。
Sakana AI 发布了 Sakana Aquarium,这是一个用于构建、运行和运营 AI 智能体的平台,在本体之上支持组织决策与执行。该平台由三部分组成:本体(Ontology),用于组织知识、规则和数据及其含义与关系,同时连接现有数据源而无需迁移;治理(Governance),用于设置访问权限和执行前审批,并记录从决策依据到执行结果的一切;托管智能体(Managed Agents),用于部署涵盖信息查询、AI 判断、函数执行和人工审批的工作流。Sakana AI 表示,数据连接和本体可以在不同智能体之间复用,该平台源自其 FDE 主导的与三菱日联金融集团(MUFG)、三井住友银行集团(SMBC Group)和大和证券集团(Daiwa Securities Group)等金融机构的合作。
Modal 发布了 Spindle,这是一个开源、兼容 Tinker 的训练服务器,运行在客户的 Modal 工作区内,让团队可以自定义技术栈,并按 GPU 时长付费,而不是按 token 付费。Spindle 支持对开源模型进行全参数训练和多 LoRA,Modal 报告称,在一个 DAPO-math GRPO 任务上,让 8 个客户端共享一个训练器,相比 Tinker 可将每 100 万输出 token 的成本降低最多 80%。Modal 表示 Spindle 仍处于 beta 阶段,并将其定位在其 Dojo 训练库与原始集群原语之间。
推荐理由:Modal 的开源 Spindle 服务器为团队提供了一个兼容 Tinker 的替代方案,以按 GPU 时长付费取代按 token 定价,据称多 LoRA 共享可将成本降低最多 80%。
Google Cloud 研究人员公布了 Project Chrysalis,这是一个基于 Gemini 平台和 Agent Development Kit(ADK)构建的可治理、自进化 AI 智能体的参考架构。在模拟的黑色星期五缓存踩踏故障中,它将首次缓解时间从 15–45 分钟缩短至 1.8 秒,将 HTTP 5xx 错误率从 72.7%–80.0% 降至 0.0%,并将 P99 延迟从 519.8 ms 降至 18.2 ms。每一项自主操作都受到 Model Armor、Cloud KMS、Binary Authorization、OPA Policy Controller 以及双人保管人在环签核的约束。