llama.cpp 发布 v1.0.0,以语义化版本规则稳定下游 API
llama.cpp 发布 v1.0.0,同时 ggml 也发布 v1.0.0,两个项目今后将以主版本号变更来标示公共 C API 与 ABI 的不兼容改动。项目方表示,随着本地 AI 与隐私需求增长、下游应用增多,稳定的库接口变得关键,未来对破坏性变更的边界会更严格。
llama.cpp 发布 v1.0.0,同时 ggml 也发布 v1.0.0,两个项目今后将以主版本号变更来标示公共 C API 与 ABI 的不兼容改动。项目方表示,随着本地 AI 与隐私需求增长、下游应用增多,稳定的库接口变得关键,未来对破坏性变更的边界会更严格。
OpenClaw 继上海活动之后,将于 2026 年 12 月 4 日至 6 日在深圳举办为期三天的 Claw Hack 黑客松和 ClawCon 大会。Claw Hack 涵盖软件与硬件赛道,涉及 M5Stack、Seeed Studio 的 reBot Arm B601 和 Pamir 硬件,报名截止日期为 11 月 25 日。ClawCon 将于 12 月 6 日举行,演讲主题包括开源 AI、开放权重模型以及在本地和云端运行智能体。
Bright Machines 现在无需开放任何入站访问,即可为客户提供来自气隙隔离工厂的实时、受治理的工厂数据仪表盘。它在边缘侧用 Debezium 捕获 PostgreSQL 变更,将其写为 Apache Iceberg,通过一条可审计的出站路径推送出去,并在 Databricks 中通过 Unity Catalog 联合就地读取。首个客户可见的仪表盘在上线启动约两个月后投入使用,已提交的行可在一到两分钟内查询,仪表盘每十分钟刷新一次。
Amazon 宣布 SGLang-Neuron 正式公开可用。这是一个 out-of-tree 插件,通过 AWS Deep Learning Container 在 AWS Trainium 上运行 SGLang,由 RadixArk 与 Annapurna Labs 发布。用户保留相同的 SGLang 服务器接口和生成 API,而该插件提供 Trainium 专用模型、注意力、MoE,以及一个基于原生 PyTorch 和 NKI 内核、经 torch.compile 编译的图运行器。它还支持 PD 分离,通过 EFA 上的 NIXL 将 prefill KV 缓存传输到 decode 服务器;演练使用 pytorch-inference-sglang-neuronx 容器在 Trainium3 EC2 实例上服务 openai/gpt-oss-120b。
AWS 宣布更新 Amazon Bedrock AgentCore 运行时——其面向智能体的托管计算层,会话启动速度现已提升至多 15 倍,算力扩展至 4 倍(最高 8 vCPU 和 32 GB,容器镜像最大 10 GB),运行效率提升至多 68%,同时每个会话仍运行在各自硬件隔离的 Firecracker MicroVM 中。无论镜像大小或并发量如何,会话启动均在 2 秒以内,空闲智能体可缩容至零,智能体可挂载文件系统(如支持 FUSE 的 Amazon S3 桶)并保存工作成果,使数据始终留在信任边界内。该运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域可用。
推荐理由:AgentCore 运行时的新版本将会话启动、算力上限和内存计费一并调整,为需要长时间运行的智能体在隔离与成本之间提供了新的取舍。
AWS 发布了来自其生成式 AI 创新中心(现隶属于 AWS Frontier AI Engineering & Services)的 23 项生产就绪的开源生成式 AI 资产目录。这些构建模块涵盖 RAG 流水线、文档处理器、智能体脚手架和评估框架,AWS 表示它们可以将开发时间从数月缩短至数周。DoorDash 报告称测试能力提升了 50 倍,Ricoh 报告称基于这些资产构建后吞吐量提升了 7 倍。
vLLM 在 day 0 支持 Thinking Machines 的 Inkling 2 Small,这是一个多模态文本与视觉 MoE,总参数 594B、激活参数 17B,上下文最高可达 1M token。该集成加入了带 PDL 的内核融合、用于 prefill 的序列并行(在 TP4 下将 8K token 的 prefill 步骤缩短 22%,TP8 下缩短 26%),以及一个 Gluon 相对注意力解码内核,将 100K 上下文下 batch-1 的解码步骤从 15.1 ms 降至 4.8 ms。vLLM 报告在 GB200 上 TP4 时每用户最高 630 TPS,接受长度为 3.5,并且还通过 SkyRL 支持 LoRA 和 RL。
推荐理由:vLLM 在发布当天即支持 Inkling 2 Small,并给出内核融合、序列并行和 Gluon 解码内核的具体优化数据,可供部署大 MoE 模型的团队参考。
vLLM-Omni 将 MiniMax H3-Image 引入 NVIDIA Vera Rubin,在四块 GPU 上测得原生 4096×4096 文本到图像的中位延迟为 0.87 秒,并在另一吞吐配置下达到每小时 6,115 张图像。H3-Image 是一个开放权重的文本到图像与编辑模型,将 Qwen3-VL 编码器与 33.1B 稠密 DiT 及图像 VAE 相结合,在六步采样内处理两项任务,最多支持 16 张参考图像。团队报告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 缓存以及一项将解码时间从 2.635 秒缩短至 0.213 秒的 VAE 解码改动,并列出了面向 AMD、Intel、华为昇腾和摩尔线程硬件的配置方案。
推荐理由:vLLM-Omni 的基准测试显示 MiniMax H3-Image 在 Vera Rubin 上以亚秒级 4K 延迟运行,并提供了各硬件配置及服务经济性成本模型。
Mastra 新增了私有模型网关,让 agent 可以将请求路由到自托管的开放权重模型,并通过类似 private/ollama/gpt-oss:20b 的前缀引用。自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本;设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隐藏外部提供商。该功能需要 @mastra/core@1.82.0 或更高版本。
Modal 与蚂蚁集团和 Tines 一道,成为加入 gVisor 维护者行列的三家公司之一;与此同时,Google 将该项目及其商标捐赠给 CNCF,采用维护者主导的治理模式。Modal 表示其每天启动多达 4000 万个 gVisor 容器,并自 2023 年起向上游贡献代码,包括 nvproxy GPU 支持、名为 rdmaproxy 的 RDMA 设备代理,以及 tmpfs 和内存分配器优化。该公司表示正在为 gVisor 开发多 GPU 内存快照和 GPUDirect Storage 支持。
vLLM 扩展了面向多模态服务的编码器/预填充/解码(EPD)解耦,新增仅元数据请求、专用编码器执行路径、通过 NIXL 和 Mooncake 的远程嵌入传输、跨编码器输出复用,以及通过 vLLM Router、SMG 和 llm-d 进行编排。包括 MiMo 和 XPU 支持在内的核心能力随 vLLM v0.32.0 发布,而对 DeepSeek V4.1 Flash 的仅元数据支持已通过 #62802 在 main 上提供。在 GB200 上对 DeepSeek V4.1 Flash 的测试中,在并发 64–128 时,EPD 相比八 GPU PD 基线实现了每 GPU 吞吐量高 6.6–9.5%、P90 TTFT 低 44–47%,但在并发 16 时每 GPU 吞吐量更低。
Meta 详细介绍了 TLX(Triton 低级扩展),这是 Triton 的一个扩展,在保留 Triton 张量编程模型的同时,增加了显式的 warp-group 和 cluster 级编排。TLX 已在 Meta 全公司投入生产使用:在数千块 NVIDIA Blackwell GPU 上用于 GEM 训练时,端到端 MFU 达到 20-25%;用于 RecSys 推理时,计算密集型网络延迟最多降低三分之二;一个分布式分组 GEMM 内核已部署于大规模 LLM 预训练。Meta 表示,TLX 面向 NVIDIA Hopper 和 Blackwell 以及 AMD Mi300 和 Mi350x,并正在开发更多架构支持、自动 warp-group 推断以及一个 torch.compile 后端。
NVIDIA 正将其用于保护和治理自主 Agent 的开源运行时 OpenShell 作为 Sandbox 项目贡献给云原生计算基金会,同时也为 Google 主导的 Agent Substrate 做出贡献。NVIDIA 宣布了三个新的 DSX AI Factory 平台组件:NVIDIA Kubernetes Engine 和 NVIDIA Kubernetes Recipes(现已进入公开预览),以及 NVIDIA Snapshot,后者可在数秒内恢复检查点副本,无需重新加载模型或预热。Crusoe 在 Crusoe Cloud 上测试了 GLM-5.3,将工作负载就绪时间从大约八分钟缩短至 31 秒,而 Saturn Cloud 将 vLLM 启动时间从 2 到 8.5 分钟缩短至 6 分 34 秒。
推荐理由:NVIDIA 将其 Agent 安全运行时 OpenShell 贡献给 CNCF,并为 GPU AI 工厂新增 Kubernetes 工具,早期 Snapshot 结果将推理启动时间从数分钟缩短至数秒。
Stripe 基于 LangChain 的开源 Deep Agents 框架构建了公司级知识 AI 平台 Kai,一名工程师在一周内交付了初始版本。该技术栈在 Deep Agents 之上叠加了 Stripe 专属的框架层和配置层,使用由 S3 支持的文件系统中件、用于代码执行的沙箱中件、用于长会话的摘要中件,以及跨 500+ 内部 MCP 工具和 1,000+ 技能的基于技能的动态工具加载。Kai 在大约四周内从 296 名用户增长到超过 5,000 名用户,目前 Stripe 有 83% 的员工每周使用它,会话数超过 60k。
Meta 在 lldb-server 中构建了一套厂商中立的加速器插件架构,使 LLDB 能在单个会话中调试跨 CPU 和 GPU 的应用程序。该设计将 CPU 和 GPU 表示为独立的 LLDB 目标,各自拥有自己的架构、线程、寄存器和地址空间,同时由插件将厂商设备调试 API 转换为 LLDB 概念。仅当应用使用受支持的 GPU 运行时,GPU 支持才会激活,因此纯 CPU 调试仍走现有的原生路径,不会增加额外开销。
Goodfire Research 发表研究,认为 Qwen3.6-35B-A3B 中的单个 MLP 神经元比通常假设的更可解释,依据是稀疏化、归因工具和研究智能体。每次前向传播中消融最弱的 92.2% MoE 神经元激活,语言模型损失仅上升 2.9%;69% 的神经元极点有一个单一模式贡献了至少 90% 的因果效应。自然语言神经元描述让评判模型在随机文本上以 95% 准确率预测激活,并通过模拟恢复 73% 的消融损伤。
推荐理由:Goodfire 对 Qwen3.6-35B-A3B 神经元的研究认为,仅强激活就承载了模型的大部分计算,为特征字典可解释性提供了具体替代方案。
Preferred Networks 发布了 PLaMo 3.0 Fin,这是一款金融专用小语言模型,基于与 NICT 联合研究中使用的 PLaMo 3 NICT 预训练模型构建,并在日本金融数据上进一步训练,以 PLaMo Community License 在 Hugging Face 上发布开放权重。该模型新增了逐步推理(Reasoning)能力,推理轨迹以日语输出,并支持用于网络搜索、计算和内部数据库访问的工具调用,可在封闭云或本地环境中于单块 GPU 上运行。PFN 表示,针对推理和工具使用的指令遵循训练是在其自研 MN-Core 2 AI 芯片上完成的,代码移植在一周内完成,训练速度与 GPU 环境相当。
vLLM 已将其 CUDA 构建迁移至 LibTorch Stable ABI,自 v0.33.0 起发布 LibTorch ABI Stable CUDA wheel,因此新的 PyTorch wheel 无需重新构建 vLLM 即可导入。团队将树内源码以及七个依赖 LibTorch 的依赖项(包括 FlashMLA、DeepGEMM 和 FlashAttention-2/3)迁移至稳定 API,并在 CI 中使用 torch-abi-audit 确认不再残留不稳定符号。文章指出了权衡,例如稳定 API 子集有限以及少量主机侧开销,并表示 CPU 和 ROCm 构建是下一步。
OpenClaw 重构了模型发现机制,像 GPT-6.1 Sol 这样的新模型无需发布新版本即可出现,模型列表来自 catalog.openclaw.ai 的自更新目录(每四小时重建一次,约 1,000 个模型)、每个账户自己的提供商模型列表,以及与 PATH 中较新版本 Codex 的握手。该目录可在运行中的 Gateway 上实时切换,且提供商超时或目录切换后模型列表不再缩减。
OpenClaw 发布了 Multiplayer,这是一项免费开源功能,允许多人连接到同一个 OpenClaw Agent 和工作区,提示词会在各台笔记本电脑上实时显示,请求通过共享队列进行协调。在旧金山 GitHub Universe 的演示中,两位参会者在各自的机器上输入提示词,共同编辑同一个 3D 场景,无需重复说明上下文。OpenClaw 基金会表示,已有 50 多人在同一共享环境中协作,并将继续扩展该功能。
推荐理由:OpenClaw 把多人共享同一 Agent 与上下文做成免费开源功能,为团队协作中反复重建上下文的问题提供了一种可迁移的做法。
Mastra 推出定制 Harness 计划,由前驻工程师嵌入客户团队,共同构建量身定制的 agent harness。该计划包含可观测性、评估、自定义 MCP、人在回路工作流、认证与 RBAC,以及 Mastra 企业平台的早期访问权限。Mastra 援引 Workday 的案例:Workday 在 31 天内从 Amazon Bedrock Agents 迁移,削减了 3,000 行代码,并将向量存储成本降低了 98%。
Ai2 启动了一项气候建模计划,由 Google.org 提供三年资助,Google Research 提供技术支持,旨在开发开源模型 NeuralGCM+,以实现更快、更可靠的气候预测。该项目扩展了 Google Research 的 NeuralGCM——该模型将大尺度动力学的物理方程与云形成、降雨等小尺度过程的 AI 相结合——以同时模拟大气和海洋。Ai2 的目标是降低过去 50 年区域气温和降雨的误差,并向外部研究人员发布带有文档化工作流程的模型和框架。
Buoyant 宣布推出 Kinference,这是一个采用 Apache v2 许可证的开源控制平面,可将兼容 OpenAI 和 Anthropic 的推理流量路由到 Kubernetes 上的 vLLM worker,并新增 token 速率限制、按租户的使用量与成本追踪、KV-cache 感知的负载均衡以及 YAML 推理策略。在该项目的公开基准测试中,与标准 Kubernetes service 负载均衡相比,Kinference 在某一工作负载上将首 token 延迟中位数降低了 95%,端到端延迟中位数降低了 45%;在容量测试中,共享前缀场景的有效吞吐量达到 7.4 倍,多轮对话场景约为 3.5 倍。策略可以将较简单的提示词路由到更便宜的模型,将突发溢出流量发送到 Bedrock 和 Databricks 等提供商,或将带有 PII 标记的请求保留在集群内;按租户的指标涵盖 token 速率、TTFT、ITL 以及缓存与未缓存的提示词 token。
推荐理由:Buoyant 的 Kinference 在 vLLM 之上增加了 KV-cache 感知的负载均衡和 YAML 推理策略,基准测试声称其相比标准 Kubernetes service 路由在 TTFT 和有效吞吐量上有大幅提升。
Zyphra 推出了 Zyphra Hierarchical Attention(ZHA),一种稀疏注意力方法,它构建一棵由压缩 KV-cache 摘要组成的树,并让查询自上而下地通过该树进行路由,在合适的 top-p 阈值下实现次二次复杂度。现有的预训练模型可以通过一个简短的 KL 蒸馏阶段进行适配,仅需使用几十亿个 token;在 Qwen3.6-35B-A3B 上,ZHA 增加了 81,920 个可训练参数,约占基础模型的 0.00024%。在 256K token 的 RULER-13 上,宽树模型得分为 96.2%,而稠密注意力为 96.0%;深六层树在 LongBench v2 上得分为 63.4%,而稠密注意力为 58.0%,同时只关注约 1.1% 的 KV cache;一个 GPU roofline 模型预测,在 10M token 时相比稠密注意力可实现 32-35 倍加速。
Ai2 的 Olmo 3 获得了 Nextcloud 最高伦理 AI 评级——绿色评级,该评级要求开源训练与推理软件、可自托管的已训练模型以及公开可用的训练数据。Nextcloud 将 Olmo 3 与其 llm2 本地 LLM 后端捆绑,并选择 7B 版本,以便没有 16 或 32 GB 显存的用户仍能获得良好的开箱即用本地体验。
Sakana AI于2026年10月26日在东京举办了“从世界模型到真实世界AI”研讨会,首席科学顾问Jürgen Schmidhuber发表了主题演讲,Sakana AI宣布将开发自己的预训练语言模型系列Sakana Sawara(暂定名)。首个小型模型Sawara Small(暂定名)若开发顺利,计划于2027年春季发布。超过400名参会者参加了此次活动,活动还包括Schmidhuber与CEO David Ha之间的对话。
Meta正与五所美国大学——加州理工学院、俄亥俄州立大学医学院、路易斯安那州立大学、印第安纳大学和UTHealth Houston——合作,并提供200万美元资助,支持利用其模型在医学、物理学、化学、生物学、计算机科学和数学领域开展研究。项目包括:基于Meta开放权重SAM模型构建的计算机视觉系统,用于检测婴儿气管造口管移位;多模态AI帮助对话代理适应痴呆症患者;以及从常规CT扫描和医疗记录预测心力衰竭风险的开放权重模型。
Modal 的前沿部署工程团队与 Sakana AI 合作,在 Modal 上运行 Sakana Namazu——一个针对日本商业语境调优的约 1T 参数 MoE 模型——以支持其公开 API 上线。团队仅对路由专家应用选择性 NVFP4 量化,注意力、路由器和共享专家保持 BF16,并基于日语为主的对话进行校准,使全部 23,040 个专家都看到有代表性的流量。一个基于超过 300 亿原始 token ID 训练的定制 DFlash 草稿模型将推测 token 接受率提高了 25%,并将每 token 解码延迟降低约 35%;另一个基于约 100 万真实请求训练的草稿模型将平均接受长度从 3.51 提升到 5.01,并将 p99 延迟从 68 秒降至 52 秒。
Anthropic正在将Agent Skills——一项为AI智能体提供专业知识和 workflows 的开放标准——捐赠给Linux基金会旗下的Agentic AI基金会(AAIF)。自2025年12月发布以来,包括ChatGPT、Cursor、GitHub Copilot和VS Code在内的70多个智能体平台已集成该标准,已发布100万个技能,安装量近2.8亿次。此次捐赠涵盖Agent Skills名称和徽标、GitHub组织以及agentskills.io域名,来自Anthropic、Google、OpenAI和其他公司的工程师将以个人身份在首席维护者David Soria Parra和Mahesh Murag的带领下对其进行维护。
推荐理由:Anthropic将其Agent Skills标准交给Linux基金会的AAIF——与MCP相同的中立归属,使社区对该规范的路线图拥有正式话语权。
Mistral 与 NVIDIA 正在合作构建 AI 原生工程工作流,将 Mistral Large 4 与 NVIDIA CUDA-X 库和 Warp 相结合,旨在加速仿真并实现闭环设计。该合作还将为 CAE 和 EDA 中的物理模型与智能体 AI 产出公开基准和开放数据集,并与 NVIDIA Omniverse 集成以实现 3D 场景生成和 SimReady 资产。Mistral Large 4(代号 Le Chonk)总参数量约 1 万亿、激活参数 490 亿,在 3,800 块 NVIDIA Grace Blackwell GPU 上训练完成。
OpenClaw 启动了 Focus Weeks 计划,该计划每周针对其路线图中的一个领域,由一位 Maintainer 负责,并邀请社区贡献代码、缺陷报告、测试、文档和无障碍反馈。首个 Focus Week 于 2026 年 10 月 19 日至 25 日举行,聚焦 Control UI,由 Vyctor Brzezowski 担任 Maintainer。一组精选的轮换 Clawtributors 还将获得共享 OpenClaw Team 环境的临时访客权限,以测试其多人协作功能。
Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents,并以 BitHuman 的开放权重 Expression Video Avatar 为例,由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点,并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上,同时用 GPU 快照隐藏冷启动。
Meta 发布了 Muse Spark Open 的权重,这是一个开放权重的原生多模态模型,总参数 816B(激活参数 42B),上下文窗口为 1M token,定位面向编程和智能体任务。它是同类模型中首个借助 MLX 框架、在两台 Apple M5 Ultra Mac Studio 上于桌面端运行的模型,并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 合作伙伴获取,权重已在 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 上提供。Meta 表示,该模型在 SGLang 中附带可自动调优的 Helion GPU 内核,在 NVIDIA 和 AMD GPU 上实现 1.03-3.95 倍的内核级加速,在 AMD MI350 上实现 3% 的端到端加速。
推荐理由:Meta 发布了一个 816B 参数多模态模型的开放权重,该模型可在两台 Mac Studio 上运行,为开发者提供了一个用于长程编程和智能体任务的本地选项。
LiveKit 发布了 Egress 的排查指南,涵盖常见错误,例如模板从未调用 START_RECORDING 导致的 412“未收到启动信号”、30 秒内未找到参与者或轨道导致的 404,以及 S3/GCP/Azure 凭证无效导致的 400 上传失败。指南还涉及布局、webhook 和自托管 Egress 问题,并指出该指导同时适用于当前的 StartEgress API 和已弃用的特定源 API。
3 并将其部署到生产推理栈上,由廉价探针过滤对话轮次,只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%,每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元,且在 SGLang 内未带来可测量的吞吐损失。
推荐理由:Goodfire 表明,探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用,且无可测量的吞吐损失,为安全地服务开放模型提供了具体方案。
Modal 宣布 Modal Clusters 已面向所有工作区正式可用,用户可通过单个装饰器 @modal.clustered 申请多节点集群。集群提供最高 6.4 Tbps 的 InfiniBand RDMA 通信,自动为 PyTorch 和 NCCL 完成配置,集群可在数秒内启动并按秒计费。Modal 还介绍了一款新的 gang 调度器,可一次性放置 N 个节点,并将 RDMA 支持内置于 gVisor 运行时;Decagon、1x 和 Runway 被列为用户,分别用于万亿参数微调、世界模型预训练和多节点视频推理。
Mistral在慕尼黑新设中心,入驻专注于物理AI和工业AI的研究团队,以及服务企业合作伙伴的工程师。该公司表示,到2030年将建成1吉瓦的欧洲算力容量,并正与BMW合作开展碰撞模拟、与Siemens Energy合作推进工业AI应用。
微软推出了 Autopilot,这是一个基于 OpenClaw 构建的持久个人智能体,作为其全新 Copilot 体验的一部分,私人预览将于本月底扩展至首批客户。Autopilot 是微软今年早些时候宣布的 Microsoft Scout 的新名称,Omar Shahine 的团队表示正与 OpenClaw 及 OpenClaw 基金会合作,打造企业级运行时。OpenClaw 重点介绍了微软工程师的上游贡献,包括策略合规检查、原生 Windows 配套应用,以及针对后台任务、重启和重复回复的可靠性修复。
推荐理由:微软的 Autopilot 基于 OpenClaw 构建,此处列出的上游贡献展示了共享智能体运行时如何跨平台改进。
OpenClaw 引入了对单独配置的决策模型的支持,其核心和插件可通过 Plugin SDK 中的 api.runtime.decisions.evaluate 调用该模型,返回选择、分数或概率,而非聊天回复。该功能为可选启用,不会取代聊天模型,相关提供商包仍在等待支持版本发布。TypeSafe 适配器支持托管的 Jev 以及本地 System One 服务器(如 Jared Palmer 的 Kev),评估工具正以 decision_evaluate 之名移入 OpenClaw 核心。
推荐理由:OpenClaw 新增了一个可选启用的决策模型层,可从应用代码返回类型化答案,并提供共享的 Plugin SDK 接口,使插件无需针对每个提供商单独集成即可使用。
本指南比较了 LiveKit Agents 和 Pipecat——它称这是构建生产级语音和视频 AI 智能体最重要的两个开源框架——从架构、采用情况、开发者体验和生产就绪度等方面进行对比。LiveKit Agents 运行在 LiveKit 的开源 WebRTC 和 SIP 基础设施上,并为你接好流水线;而 Pipecat 不预设传输层,由开发者逐阶段组装流水线。文中还介绍了 TEN Framework、Dograh、Vision Agents 和 Vocode 各自适合的位置。