Epoch AI在11项真实的Epoch工作任务上测试了六款领先模型，发现没有一款能可靠达到其质量标准，Claude Fable 5.1与GPT-6 Astra大致并列领先。其新推出的SpireClimb基准显示，前沿模型在六个月内从在《杀戮尖塔》中苦苦挣扎，发展到能以超过90%的胜率通过基础难度对局，其中GPT-6 Astra达到98%。Gemini 4 Argon在Epoch能力指数上得分166，与Claude Fable 5.1并列，落后于得分169的Claude Opus 5.5和GPT-6 Astra。
SemiAnalysis 的工程团队在 TorchTitan 和 TorchNeuron 栈上测试了 Trainium3 机架，发现原生 PyTorch 体验相比旧的 PyTorch/XLA 方案有重大改进，但 bug 和较长的编译时间仍然存在。在编译模式下，用 16 块 Trainium2 芯片训练 Qwen3-32B 达到每秒 14,156 个 token、MFU 为 30.47%，相比 eager 模式提升 1.28 倍；而 gpt-oss 20B 配方编译耗时 27 分 17 秒。团队还将 Neuron Explorer 评为业界领先的分析器，领先于 Nvidia 和 AMD 的工具，并报告 Trainium3 通过了 96 个 FlexAttention 测试用例中的 89 个。
Modal 的前沿部署工程团队与 Sakana AI 合作，在 Modal 上运行 Sakana Namazu——一个针对日本商业语境调优的约 1T 参数 MoE 模型——以支持其公开 API 上线。团队仅对路由专家应用选择性 NVFP4 量化，注意力、路由器和共享专家保持 BF16，并基于日语为主的对话进行校准，使全部 23,040 个专家都看到有代表性的流量。一个基于超过 300 亿原始 token ID 训练的定制 DFlash 草稿模型将推测 token 接受率提高了 25%，并将每 token 解码延迟降低约 35%；另一个基于约 100 万真实请求训练的草稿模型将平均接受长度从 3.51 提升到 5.01，并将 p99 延迟从 68 秒降至 52 秒。
SemiAnalysis考察了华为与DeepSeek的合作关系，对昇腾950PR（28个cube核心、128 GiB HBM）进行了基准测试，并回顾了DeepSeek于9月30日发布的针对TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect的昇腾支持。950PR的峰值HBM带宽达到1.6384 TB/s，在小消息尺寸下带宽利用率超过H100，而其计算利用率中位数为41.5%，H100为46.8%；目前只有TileLang可用，因为所需的CANN 9.2.0在撰写时尚未发布。作者认为，尽管华为硬件落后，但其软件栈已接近前沿水平，并指出大多数优化针对超节点，而vLLM-Ascend在x86主机上仍无法开箱即用。
Anthropic正在将Agent Skills——一项为AI智能体提供专业知识和 workflows 的开放标准——捐赠给Linux基金会旗下的Agentic AI基金会（AAIF）。自2025年12月发布以来，包括ChatGPT、Cursor、GitHub Copilot和VS Code在内的70多个智能体平台已集成该标准，已发布100万个技能，安装量近2.8亿次。此次捐赠涵盖Agent Skills名称和徽标、GitHub组织以及agentskills.io域名，来自Anthropic、Google、OpenAI和其他公司的工程师将以个人身份在首席维护者David Soria Parra和Mahesh Murag的带领下对其进行维护。
推荐理由：Anthropic将其Agent Skills标准交给Linux基金会的AAIF——与MCP相同的中立归属，使社区对该规范的路线图拥有正式话语权。
中国商务部和科学技术部于10月16日发布出口管制目录的增补草案，首次将先进大型AI模型、AI智能体及大型计算集群纳入其中，其中14项技术被禁止出口，26项受限。
Mistral 与 NVIDIA 正在合作构建 AI 原生工程工作流，将 Mistral Large 4 与 NVIDIA CUDA-X 库和 Warp 相结合，旨在加速仿真并实现闭环设计。该合作还将为 CAE 和 EDA 中的物理模型与智能体 AI 产出公开基准和开放数据集，并与 NVIDIA Omniverse 集成以实现 3D 场景生成和 SimReady 资产。Mistral Large 4（代号 Le Chonk）总参数量约 1 万亿、激活参数 490 亿，在 3,800 块 NVIDIA Grace Blackwell GPU 上训练完成。
OpenClaw 启动了 Focus Weeks 计划，该计划每周针对其路线图中的一个领域，由一位 Maintainer 负责，并邀请社区贡献代码、缺陷报告、测试、文档和无障碍反馈。首个 Focus Week 于 2026 年 10 月 19 日至 25 日举行，聚焦 Control UI，由 Vyctor Brzezowski 担任 Maintainer。一组精选的轮换 Clawtributors 还将获得共享 OpenClaw Team 环境的临时访客权限，以测试其多人协作功能。
中国商务部和科技部拟将AI模型、智能体、芯片设计和计算集群列入技术出口管制目录，草案规则将API、应用和SaaS访问排除在外。据报道，DeepSeek计划领投机器人AI初创公司Winverse AI的种子轮，而Infinigence AI完成了23亿元人民币的C轮融资。DeepSeek还发布了V4.1-Flash-1017，采用MIT许可的权重和100万token的上下文窗口。
Modal 介绍了如何在其无服务器 GPU 上使用开放权重或自定义模型运行 LiveKit Agents，并以 BitHuman 的开放权重 Expression Video Avatar 为例，由 Qwen3-TTS 配音来克隆 Charles Frye。该方案通过 Modal Server 暴露 avatar 容器的 /launch 端点，并使用 Sticky Sessions 让 WebSocket 客户端保持在同一容器上，同时用 GPU 快照隐藏冷启动。
Meta 发布了 Muse Spark Open 的权重，这是一个开放权重的原生多模态模型，总参数 816B（激活参数 42B），上下文窗口为 1M token，定位面向编程和智能体任务。它是同类模型中首个借助 MLX 框架、在两台 Apple M5 Ultra Mac Studio 上于桌面端运行的模型，并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 合作伙伴获取，权重已在 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 上提供。Meta 表示，该模型在 SGLang 中附带可自动调优的 Helion GPU 内核，在 NVIDIA 和 AMD GPU 上实现 1.03-3.95 倍的内核级加速，在 AMD MI350 上实现 3% 的端到端加速。
推荐理由：Meta 发布了一个 816B 参数多模态模型的开放权重，该模型可在两台 Mac Studio 上运行，为开发者提供了一个用于长程编程和智能体任务的本地选项。
DeepSeek机器学习与内核工程师刘胜宇的一篇博客文章走红，他在文中质疑前沿AI如今能否优化自身的底层GPU代码，并将Anthropic CEO Dario Amodei比作Adolf Hitler。该文章被《南华早报》和Business Insider等媒体报道，放大了关于谁应掌控先进AI的争论。
LiveKit 发布了 Egress 的排查指南，涵盖常见错误，例如模板从未调用 START_RECORDING 导致的 412“未收到启动信号”、30 秒内未找到参与者或轨道导致的 404，以及 S3/GCP/Azure 凭证无效导致的 400 上传失败。指南还涉及布局、webhook 和自托管 Egress 问题，并指出该指导同时适用于当前的 StartEgress API 和已弃用的特定源 API。
3 并将其部署到生产推理栈上，由廉价探针过滤对话轮次，只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%，每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元，且在 SGLang 内未带来可测量的吞吐损失。
推荐理由：Goodfire 表明，探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用，且无可测量的吞吐损失，为安全地服务开放模型提供了具体方案。
Modal 宣布 Modal Clusters 已面向所有工作区正式可用，用户可通过单个装饰器 @modal.clustered 申请多节点集群。集群提供最高 6.4 Tbps 的 InfiniBand RDMA 通信，自动为 PyTorch 和 NCCL 完成配置，集群可在数秒内启动并按秒计费。Modal 还介绍了一款新的 gang 调度器，可一次性放置 N 个节点，并将 RDMA 支持内置于 gVisor 运行时；Decagon、1x 和 Runway 被列为用户，分别用于万亿参数微调、世界模型预训练和多节点视频推理。
Mistral在慕尼黑新设中心，入驻专注于物理AI和工业AI的研究团队，以及服务企业合作伙伴的工程师。该公司表示，到2030年将建成1吉瓦的欧洲算力容量，并正与BMW合作开展碰撞模拟、与Siemens Energy合作推进工业AI应用。
Import AI 474 涵盖 Michael Levin 的论文，该论文主张心智是“进入”身体的非物理模式，并以 xenobots 和 anthrobots 作为证据。本期还讨论了太空中的 TPU 以及智谱启动外层 RSI 循环。
微软推出了 Autopilot，这是一个基于 OpenClaw 构建的持久个人智能体，作为其全新 Copilot 体验的一部分，私人预览将于本月底扩展至首批客户。Autopilot 是微软今年早些时候宣布的 Microsoft Scout 的新名称，Omar Shahine 的团队表示正与 OpenClaw 及 OpenClaw 基金会合作，打造企业级运行时。OpenClaw 重点介绍了微软工程师的上游贡献，包括策略合规检查、原生 Windows 配套应用，以及针对后台任务、重启和重复回复的可靠性修复。
推荐理由：微软的 Autopilot 基于 OpenClaw 构建，此处列出的上游贡献展示了共享智能体运行时如何跨平台改进。
OpenClaw 引入了对单独配置的决策模型的支持，其核心和插件可通过 Plugin SDK 中的 api.runtime.decisions.evaluate 调用该模型，返回选择、分数或概率，而非聊天回复。该功能为可选启用，不会取代聊天模型，相关提供商包仍在等待支持版本发布。TypeSafe 适配器支持托管的 Jev 以及本地 System One 服务器（如 Jared Palmer 的 Kev），评估工具正以 decision_evaluate 之名移入 OpenClaw 核心。
推荐理由：OpenClaw 新增了一个可选启用的决策模型层，可从应用代码返回类型化答案，并提供共享的 Plugin SDK 接口，使插件无需针对每个提供商单独集成即可使用。
本指南比较了 LiveKit Agents 和 Pipecat——它称这是构建生产级语音和视频 AI 智能体最重要的两个开源框架——从架构、采用情况、开发者体验和生产就绪度等方面进行对比。LiveKit Agents 运行在 LiveKit 的开源 WebRTC 和 SIP 基础设施上，并为你接好流水线；而 Pipecat 不预设传输层，由开发者逐阶段组装流水线。文中还介绍了 TEN Framework、Dograh、Vision Agents 和 Vocode 各自适合的位置。
Mistral宣布与Mozilla达成合作，其模型现为Mozilla的AI浏览助手Firefox Smart Window（测试版）提供支持，面向法国和北美用户，英国和德国预计今年晚些时候上线。Mistral表示，Smart Window的对话默认不会保存在Mozilla的服务器上，且合作伙伴同意零数据保留，并将该交易定位为将开放权重、针对区域微调的模型引入消费者浏览场景。
Modal 在其 Auto Endpoints 上新增了对四个开放权重模型的首日支持——Kimi K3、Qwen3.8-2.4T-A95B、GLM-5.3 和 GLM-5.3-Flash，其中 Kimi K3 借助自定义 DFlash 推测器在智能体工作负载上达到每秒 460 个 token。Sandbox Sidecars 进入公开 alpha，VM Sandboxes 达到公开 beta，广域定价倍率从 1.5 倍降至 1.15 倍。仪表盘焕新并推出浅色模式 beta，Python SDK 1.5.5 以及 JavaScript 和 Go SDK 0.10.0 已发布。
LiveKit正在将其SFU架构扩展到单点对点链路之外，使机器人部署能够运行多参与者会话，其中Room让每个摄像头、模型、操作员或服务作为自己的参与者加入。LiveKit描述了三种架构：人在回路的数据记录，机器人、策略、操作员和记录器在同一会话中；VLM引导的技能编排，视觉语言模型以约1 Hz选择技能，而独立的策略参与者以数十赫兹控制机器人；以及策略升级，30 Hz或更高的奖励模型标记卡住或不安全状态，机器人撤销专家策略的权限。
MiniMax 推出了 Music 3.0，这是一款开放权重音乐生成模型，能够根据创意概念和可选歌词，在单次生成中作曲、编曲并制作出最长五分钟的完整歌曲。该流程将一个基于 Qwen3.5-8B 初始化的 8B Global LLM 与一个 0.6B Local LLM 配对，融合二者连续的隐藏状态来为 2.4B 流匹配模块和 123M Flow-VAE 提供条件，并使用八层 RVQ 以及随时间描述情感、配器和演唱方式的结构化字幕（Structured Captions）。MiniMax 表示，这能更准确地理解创作意图，编曲更丰满，人声更清晰、更自然。
推荐理由：MiniMax 的架构拆解展示了 8B 全局 LLM 如何与 0.6B 局部模型及流匹配技术栈配合，以解决长歌曲的连贯性问题。
Modal 已将全部 Functions 迁移至新的地理分布式 I/O 平面，使端到端 Function Call 延迟在 p50 上降低约 80ms。此前，每个 Function 的输入和输出都经由 us-east 的 I/O 服务器路由，每次调用会增加最多几百毫秒的延迟；新平面已在至少 4 个区域可用，并可通过 routing_region 标志选择。服务器层已用 Go 重写，非关键工作已移出热路径。
Modal 在发布当天就在其平台上线了 Moonshot 的 Kimi K3，通过按 token 计费的 Shared API 和专用 Auto Endpoints 提供这款拥有 1M token 上下文窗口的 2.8 万亿参数多模态模型。Modal 表示，针对 K3 架构调优的自定义 DFlash speculator 在 agentic 工作负载上将交互性从每秒 100 token 提升到 460 token，并将每 GPU 吞吐量从 800k TPM 提升到 150 万 TPM。该模型采用混合专家设计，每个 token 激活 896 个专家中的 16 个，Moonshot 在发布前向 vLLM 贡献了新的前缀缓存实现。
推荐理由：Modal 详细介绍了它如何在发布当天将 Moonshot 的 2.8T 参数 Kimi K3 引入其平台，包括一个自定义 DFlash speculator，将交互性从每秒 100 token 提升到 460 token。
Modal 推出了 Auto Endpoints，这是一项自助式服务，可将生产级 LLM 推理部署为兼容 OpenAI API 的端点，并由用户可见且可控的 Modal App 提供支持。每个受支持的模型都附带一个初始部署，该部署根据 Modal 自身的基准测试进行调优，使用 SGLang 等引擎以及来自 Z Lab 的 DFlash 推测解码草稿器，用户可以查看 GPU 选择、引擎标志以及 TTFT、ITL 和推测解码接受长度等推理指标。Modal 还将 Modal Servers 从测试版发布，用于提供开销为 5ms 的区域化路由，并表示它通过一个仍由人类工程师监控的内部智能体系统来生成端点部署。
推荐理由：Modal 的 Auto Endpoints 公开了托管推理提供商通常隐藏的服务栈、引擎指标和基准测试配方，为团队提供了一条自助式路径来拥有开放模型推理。
Modal 在 Hugging Face 上为 Qwen 系列发布了一组 DFlash 草稿模型，包括 Qwen 3.6 35B-A3B-DFlash 和从 4B 到 122B-A10B 的 Qwen 3.5 变体，以及一个用 SGLang 构建的 Qwen 3.5 397B-A17B 的 DFlash 推测器。该公司表示，新的草稿器在现有 DFlash 基线之上额外提速 5-20%，并且可以在 B200 节点上以并发 1 运行 Qwen 3.5 122B-A10B 达到超过 1000 tok/s，而不使用推测时为 250 tok/s。文章认为，在内核优化只能带来几个百分点提升的地方，推测解码可带来 2 倍至 3 倍的增益，并提出了一个根据接受长度估算加速比的 roofline 模型。
推荐理由：Modal 解释了为何押注推测解码，并为 Qwen 系列发布了 DFlash 草稿模型，附有实测加速比和用于估算增益的 roofline 模型。
Modal 为 FlashAttention-4 内核贡献了优化，以加速以解码为主的 LLM 推理工作负载，这类负载的瓶颈在于内存带宽。改动包括将“split KV”并行技术移植到 FA4，并用 cp.async 替换 TMA cp.async.bulk 加载以应对不规则内存访问。一个 FP8 输入 PR（2026 年 4 月 17 日合并）相比 bf16 基线带来最高 1.16 倍的吞吐量，并支持更小的 KV 缓存。
MiniMax 发布了 M3，这是一款开放权重模型，据称是首个将前沿编程与智能体性能、100 万 token 上下文窗口以及原生图像和视频输入结合在一起的模型。M3 采用 MiniMax 新的 MSA 稀疏注意力架构，公司报告称该架构将 100 万上下文下的每 token 计算量降至上一代的 1/20，并将预填充速度提升 9 倍以上、解码速度提升 15 倍以上。它在 SWE-Bench Pro 上得分 59.0%，在 Terminal-Bench 2.1 上得分 66.0%，在 MCP Atlas 上得分 74.2%，可通过 MiniMax Code、Token Plan 和 API 使用，权重和技术报告承诺在 10 天内发布。
推荐理由：MiniMax M3 将 100 万 token 上下文、前沿编程与智能体得分以及原生图像和视频输入结合在一个开放权重模型中，MSA 降低了长上下文下的每 token 计算量。
Modal 在多模态工作负载上对 SGLang 的调度器进行了性能分析，并用一个简单的 Python 字典缓存替代了重复的 CUDA IPC 句柄记录工作，在 H100 上运行 Qwen2.5-VL-3B-Instruct 时，吞吐量提升了 16.2%，平均 TTFT 降低了 13.2%，TPOT 降低了 17.2%。该修复已合并到 SGLang v0.5.10 中。
Opus 4.6和GPT-5.3-Codex上周双双发布，但决定性的较量并非原始能力。该论点认为，大多数有经济价值的工作位于专业化层，在那里，一个用客户自有数据微调的80B以下模型在该客户的工作流上胜过GPT-5.2——更快、更便宜，且无需将专有数据发送给第三方。开源只需匹配智能上限，而非前沿，而实验室对资本的依赖时钟是更弱的处境。
Modal 推出 GLM-5 的免费 OpenAI API 兼容端点，可用至 4 月底，限单个并发请求，同时发布在单节点 8 张 B200 上用 SGLang 部署的可复现代码。
推荐理由：Modal 为 Z.ai 的 GLM-5 提供免费 OpenAI 兼容端点，并给出在 OpenCode、OpenClaw、Claude Code 和 Vercel AI SDK 中接入的具体配置。
Modal 现已提供对 Mistral 3 的 Day 0 支持，让开发者无需管理基础设施即可在无服务器 GPU 上部署该开放模型系列。在 3B 的 Ministral 3 模型上，Modal 的 GPU 快照功能将中位冷启动时间从约 118 秒缩短至约 12 秒，降幅接近 10 倍。Ministral 3 提供 3B、8B 和 14B 三种规模，在基准测试中与 Qwen 3-VL 系列表现相当。
Modal 的博客解释了主机开销——即 GPU 空闲等待 CPU 准备工作的时间间隙——如何在 AI 推理中表现为 GPU 内核利用率低下。当主机开销达到 50% 时，GPU 推理成本是原本的 2 倍。文章详细介绍了生产级开源推理引擎中采用的修复方法，包括在设备上构建张量而非传输张量，以及减少不必要的 CUDA 内核启动。
Modal 的 Ben Shababo 详细介绍了如何用开源 Pipecat 框架和开放权重模型在 Modal 上构建对话语音机器人，当客户端与容器地理位置接近时，语音到语音延迟中位数约为 1 秒。该流水线使用 NVIDIA parakeet-tdt-0.6b-v3 做 STT，用 vLLM 服务 Qwen3-4B-Instruct-2507，用 KokoroTTS 做语音输出，并用 ChromaDB 搭配 all-minilm-l6-v2 在 Modal 文档上做 RAG。Modal Tunnels 绕过输入平面，为 STT、TTS 和 vLLM 服务提供低延迟的 WebSocket 和 HTTP 连接；同时，与每个对话会话绑定的 FunctionCall 恢复了自动扩缩容能力，而将服务固定到附近区域则降低了网络延迟。
Modal 已与 Datalab 合作，让开发者能在 5 分钟内于 Modal GPU 上部署 Marker 文档解析模型和 Surya OCR 工具包。Marker 是一个参数量低于十亿的模型，支持 90 多种语言，在 Modal 上运行每个容器约可达每秒 2.2 页，大约是使用 Apple MPS 的 M4 Mac 上每秒 0.22 页的 10 倍。Datalab 的工具对研究、个人使用以及融资或营收低于 200 万美元的初创公司保持免费，同时提供商业许可。
Modal 在其平台上使用 NVIDIA 的 parakeet-tdt-0.6b-v2 和 canary-1b-flash 实现了批量转录服务，报告称其端到端性能比一个流行的专有 ASR API 快 100 倍以上或便宜 100 倍，同时在约一周的 ESB 基准音频上错误率与之相当。团队将这一提升归因于跨请求批次打乱文件、在 GPU 批次内按音频时长排序、并行下载，以及根据经验选择的 GPU 和 worker 配置。文章详细介绍了架构和优化步骤，以便他人构建类似服务。
Jamsocket 是开源编排器 Plane、Y-Sweet 和 ForeverVM 背后的后端平台，现已加入 Modal，联合创始人 Paul Butler 和 Taylor Baldwin 也将加入 Modal 团队。Jamsocket 产品将继续正常运营，同时核心功能将迁移至 Modal。创始人表示，这让以 AI 为核心的客户能够在一个平台上部署 GPU 推理、代码沙箱和实时后端。
Modal 已推出其 Python SDK 客户端的 1.0 版本，公司称这一里程碑为其无服务器云计算平台带来了新的成熟度和稳定性，预计未来破坏性变更将大幅减少。该版本移除了诸如自动挂载本地包之类的“魔法”行为，将核心功能拆分到独立的装饰器中（如新增的 @modal.concurrent），并将本地文件处理统一归入 modal.Image 类。Modal 还计划推出其他语言的 SDK，并正在探索该平台应如何服务于 AI 驱动的智能体工作流。