跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型，开源框架与 GitHub 上爆火的 AI 项目。

43 条精选近 30 天 30 条共收录 186 条

11月13日 08:32更新

开源生态 · 精选 · 第 2 页

11月4日周三第 21–40 条 / 共 43 条
  1. vLLM Blog73

    Buoyant 发布 Kinference，一个面向 vLLM 和 Kubernetes 的开源推理控制平面

    Buoyant 宣布推出 Kinference，这是一个采用 Apache v2 许可证的开源控制平面，可将兼容 OpenAI 和 Anthropic 的推理流量路由到 Kubernetes 上的 vLLM worker，并新增 token 速率限制、按租户的使用量与成本追踪、KV-cache 感知的负载均衡以及 YAML 推理策略。在该项目的公开基准测试中，与标准 Kubernetes service 负载均衡相比，Kinference 在某一工作负载上将首 token 延迟中位数降低了 95%，端到端延迟中位数降低了 45%；在容量测试中，共享前缀场景的有效吞吐量达到 7.4 倍，多轮对话场景约为 3.5 倍。策略可以将较简单的提示词路由到更便宜的模型，将突发溢出流量发送到 Bedrock 和 Databricks 等提供商，或将带有 PII 标记的请求保留在集群内；按租户的指标涵盖 token 速率、TTFT、ITL 以及缓存与未缓存的提示词 token。

    推荐理由：Buoyant 的 Kinference 在 vLLM 之上增加了 KV-cache 感知的负载均衡和 YAML 推理策略，基准测试声称其相比标准 Kubernetes service 路由在 TTFT 和有效吞吐量上有大幅提升。

10月30日周五
  1. Epoch AI · Gradient Updates82

    Epoch AI 发现 GLM 5.3 能在用户更新前将已公开的 Firefox 修复转化为可用漏洞利用

    Epoch AI 报告称，Z.ai 于 8 月发布的开源权重模型 GLM 5.3 自主利用 Mozilla 已发布但尚未推送给用户的安全修复，构建出可用的漏洞利用，攻破了 9 月 17 日至 10 月 26 日期间发布的所有六个 Firefox 版本。在约 10 万美元的搭建和 API 成本之后，每次成功攻击的计算成本约为 1000 美元，最快的一次尝试在 48 小时预算内耗时 12 小时。针对 Chrome 的类似攻击未能成功，研究人员表示没有触发任何提供方的防护措施或拒绝响应；他们另外发现的一个未公开漏洞已在 10 月 27 日发布的 Firefox 159.0 中得到修补。

    推荐理由：Epoch AI 的实验表明，一个开源权重模型能够自主将已发布但尚未推送的 Firefox 修复武器化，为补丁空窗期给出了具体的成本和时间数字。

10月29日周四
  1. Mistral AI86

    Mistral 发布 Mistral Large 4（Le Chonk）开放权重，这是一个 1 万亿参数的多模态模型

    Mistral AI 发布了 Mistral Large 4（Le Chonk）的开放权重，这是一个 1 万亿参数的原生多模态模型，本月早些时候进入公开预览，并在欧洲从零开始训练。该公司表示，额外三周的强化学习使其登顶开放权重编码榜首，在 Terminal-Bench 4.0 上达到 41%，在 Artificial Analysis Coding Agent Index 上达到 48%，同时每项任务使用的 token 比 GLM-5.3 少 47%。它新增了低、中、高三种推理模式，在 Artificial Analysis Cyber Index 上得分 51%，在修改版 MIT 许可证下，定价为每百万 token 输入 $0.70、缓存输入 $0.07、输出 $2.10。

    推荐理由：Mistral 开放了其 1 万亿参数旗舰模型的权重，将编码和防御性安全基准的提升与三种推理模式和按 token 定价相结合。

10月22日周四
  1. Modal Blog71

    Modal 发布 Spindle：一个开源、兼容 Tinker 的训练服务器

    Modal 发布了 Spindle，这是一个开源、兼容 Tinker 的训练服务器，运行在客户的 Modal 工作区内，让团队可以自定义技术栈，并按 GPU 时长付费，而不是按 token 付费。Spindle 支持对开源模型进行全参数训练和多 LoRA，Modal 报告称，在一个 DAPO-math GRPO 任务上，让 8 个客户端共享一个训练器，相比 Tinker 可将每 100 万输出 token 的成本降低最多 80%。Modal 表示 Spindle 仍处于 beta 阶段，并将其定位在其 Dojo 训练库与原始集群原语之间。

    推荐理由：Modal 的开源 Spindle 服务器为团队提供了一个兼容 Tinker 的替代方案，以按 GPU 时长付费取代按 token 定价，据称多 LoRA 共享可将成本降低最多 80%。

  2. MiniMax Blog62

    MiniMax Code 推出 Mini App 运行时，含托管 MCP 与开源仓库

    MiniMax 在 MiniMax Code 桌面应用中推出 Mini App，这是一种插件格式应用，包含前端和 Node.js 后端，让 Agent 的工作留在一个持续运行的页面上，而不是分散在对话中。此次发布包含一个运行时，具备持久化数据目录、托管 MCP、Agent API、Host Connectors 和页内工具审批，还有 /miniapp-creator，可从一句话请求直接生成可用页面，以及插件市场中的官方 Mini App。MiniMax Bot 本身就是一个 Mini App，其源代码与社区构建的 Mini App 现已放入开源仓库 MiniMax-Code-MiniApps；Mini App 可在 macOS 和 Windows 的本地会话中使用。

    推荐理由：MiniMax Code 把 Agent 的工作从对话流搬进常驻页面，并公开了 Mini App 的运行时与开源仓库，为 Agent 工具形态提供了一种可参考的架构。

  3. Anthropic Newsroom71

    Anthropic将Agent Skills标准捐赠给Agentic AI基金会

    Anthropic正在将Agent Skills——一项为AI智能体提供专业知识和 workflows 的开放标准——捐赠给Linux基金会旗下的Agentic AI基金会（AAIF）。自2025年12月发布以来，包括ChatGPT、Cursor、GitHub Copilot和VS Code在内的70多个智能体平台已集成该标准，已发布100万个技能，安装量近2.8亿次。此次捐赠涵盖Agent Skills名称和徽标、GitHub组织以及agentskills.io域名，来自Anthropic、Google、OpenAI和其他公司的工程师将以个人身份在首席维护者David Soria Parra和Mahesh Murag的带领下对其进行维护。

    推荐理由：Anthropic将其Agent Skills标准交给Linux基金会的AAIF——与MCP相同的中立归属，使社区对该规范的路线图拥有正式话语权。

10月15日周四
  1. Mistral AI71

    Mistral 发布 Timestral 时间序列基础模型，在 GIFT-Eval、TIME 和 fev-bench 上登顶

    Mistral 发布了 Timestral，这是其首个时间序列基础模型系列，包含从 5M 到 209M 参数的四种规模。最大的模型在 GIFT-Eval、TIME 和 fev-bench 三大主要公开基准上，在来自单一检查点、未使用集成方法的预训练零样本模型中排名第一，且参数量仅为此前最先进模型的三分之二。Timestral 可生成具有 21 个分位数的概率多变量预测，支持仅历史协变量和已知未来协变量，可在无 GPU 的 CPU 上运行，并可通过 Mistral Forge 进行微调，同时在修改版 MIT 许可证下发布了 GitHub 仓库和技术报告。

    推荐理由：Mistral 的首个时间序列基础模型系列凭借 209M 参数的检查点在 GIFT-Eval、TIME 和 fev-bench 上宣称获得零样本排名第一，为预测工作提供了规模与精度的权衡参考。

  2. inclusionAI Repositories67

    inclusionAI 发布 Ming-3.0-audio-flash 与 Ming-3.0-audio-tiny 音频模型

    inclusionAI 发布了 Ming-3.0-audio-flash，这是一个 126B 参数的混合专家音频模型，激活参数为 6.5B；同时发布的还有紧凑型 Ming-3.0-audio-tiny，参数为 9.3B，激活参数为 2.7B。flash 模型覆盖中英文语音识别，包括方言和嘈杂多说话人场景、长音频理解、非语音声音与音乐感知、音频推理，以及可选用合成语音输出的端到端口语对话。该模型以 MIT 许可证提供，附带 vLLM-Omni、SGLang 和 Transformers 推理路径，默认 Flash 配置在 128K 上下文下使用四块 80 GB H800 GPU 进行张量并行。

    推荐理由：该发布详细介绍了一个 126B 参数的 MoE 音频模型（激活参数 6.5B），以及一个 9.3B 的 tiny 变体，为开放音频语言模型的规模与部署提供了具体参考。

  3. Meta AI Research Blog88

    Meta 发布 Muse Spark Open：一个 816B 开放权重多模态模型，可在两台 Mac Studio 上运行

    Meta 发布了 Muse Spark Open 的权重，这是一个开放权重的原生多模态模型，总参数 816B（激活参数 42B），上下文窗口为 1M token，定位面向编程和智能体任务。它是同类模型中首个借助 MLX 框架、在两台 Apple M5 Ultra Mac Studio 上于桌面端运行的模型，并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 合作伙伴获取，权重已在 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 上提供。Meta 表示，该模型在 SGLang 中附带可自动调优的 Helion GPU 内核，在 NVIDIA 和 AMD GPU 上实现 1.03-3.95 倍的内核级加速，在 AMD MI350 上实现 3% 的端到端加速。

    推荐理由：Meta 发布了一个 816B 参数多模态模型的开放权重，该模型可在两台 Mac Studio 上运行，为开发者提供了一个用于长程编程和智能体任务的本地选项。

  4. Goodfire Research62

    Goodfire研究文章认为神经网络本身已是清晰的，叠加现象被误读

    Goodfire研究员认为，神经网络中多义性和叠加现象的经典证据被误读了，看似随意的打包实际上主要是一种他称之为递归泛化的模式。用常规架构改进、不改变模型大小或训练数据重新训练InceptionV1后，其最后一层99-100%的神经元变得易于解释；对Qwen3-32B的初步审计估计约90%的神经元极点只有一个主要职责。文章结论是网络使用一种学习原理而非两种，因此可解释性可以直接研究神经元和电路，而不必先训练稀疏自编码器等分解模型。

    推荐理由：这是对该领域经典多义性证据的第一手重新解读，主张网络是递归泛化而非打包不相关的概念，这将使直接的机制性研究变得可行。

10月13日周二
  1. Amazon Science75

    Amazon Web Services 研究人员提出 priming，可将预训练 Transformer 转换为混合状态空间模型而无需完全重新训练

    Amazon Web Services 研究人员提出 priming，一种复用预训练 Transformer 权重的方法，可将混合状态空间架构的预训练成本降低 99% 以上，仅使用源模型预训练 token 预算的不到 0.5%。在受控比较中，Gated KalmaNet 优于 Gated DeltaNet 和 Mamba-2，而基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 表现相当，同时在 128,000 token 上下文下解码速度最高可达两倍。团队以 Apache 2.0 许可证发布了 8B 和 32B 的 primed 混合模型、训练代码、Triton 内核以及 vLLM 服务插件。

    推荐理由：Amazon Web Services 研究人员表明，复用预训练 Transformer 权重可将混合架构预训练成本降低 99% 以上，使状态空间层的受控比较变得可行。

10月8日周四
  1. Goodfire Research71

    Goodfire 在 Kimi K3 和 GLM 5.3 上训练并部署基于探针的网络滥用监控器

    3 并将其部署到生产推理栈上，由廉价探针过滤对话轮次，只有可疑交互才会进入 LLM 裁判。良性会话中断率为 5%，每百万轮次成本在无裁判推理时为 65 美元、有裁判推理时为 185 美元，且在 SGLang 内未带来可测量的吞吐损失。

    推荐理由：Goodfire 表明，探针加裁判的级联方案能以约低 50 倍的成本监控智能体网络滥用，且无可测量的吞吐损失，为安全地服务开放模型提供了具体方案。

9月29日周二
  1. OpenClaw Blog71

    OpenClaw Enterprise 发布，作为管理持久化代理的开源平台

    OpenClaw 宣布推出 OpenClaw Enterprise（OCE），这是一个开源、厂商中立的平台，用于在敏感环境中管理持久化代理，目前仍在开发中，计划于今年晚些时候发布 1.0 版本。OCE 增加了一个企业控制平面，具备多租户、硬性安全边界、沙箱、基于 LLM 的审查和细粒度权限，并允许将 harness、模型和沙箱替换为第三方或内部实现。组织今天可以通过 docker-compose 进行本地开发，或通过 kubernetes 进行内部部署来自行托管，目前正在 Red Hat 和 OpenAI 等公司进行试点。

    推荐理由：OpenClaw Enterprise 是一个面向敏感环境中持久化代理的开源控制平面，具备多租户、硬性安全边界和可审计性，现已可用于内部试点工作负载。

9月25日周五
  1. OpenClaw Blog74

    Microsoft Autopilot 基于 OpenClaw 构建，贡献双向流动

    微软推出了 Autopilot，这是一个基于 OpenClaw 构建的持久个人智能体，作为其全新 Copilot 体验的一部分，私人预览将于本月底扩展至首批客户。Autopilot 是微软今年早些时候宣布的 Microsoft Scout 的新名称，Omar Shahine 的团队表示正与 OpenClaw 及 OpenClaw 基金会合作，打造企业级运行时。OpenClaw 重点介绍了微软工程师的上游贡献，包括策略合规检查、原生 Windows 配套应用，以及针对后台任务、重启和重复回复的可靠性修复。

    推荐理由：微软的 Autopilot 基于 OpenClaw 构建，此处列出的上游贡献展示了共享智能体运行时如何跨平台改进。

9月22日周二
  1. OpenClaw Blog60

    OpenClaw 新增可选决策模型和共享 Plugin SDK 接口

    OpenClaw 引入了对单独配置的决策模型的支持，其核心和插件可通过 Plugin SDK 中的 api.runtime.decisions.evaluate 调用该模型，返回选择、分数或概率，而非聊天回复。该功能为可选启用，不会取代聊天模型，相关提供商包仍在等待支持版本发布。TypeSafe 适配器支持托管的 Jev 以及本地 System One 服务器（如 Jared Palmer 的 Kev），评估工具正以 decision_evaluate 之名移入 OpenClaw 核心。

    推荐理由：OpenClaw 新增了一个可选启用的决策模型层，可从应用代码返回类型化答案，并提供共享的 Plugin SDK 接口，使插件无需针对每个提供商单独集成即可使用。

8月13日周四
  1. MiniMax Blog71

    MiniMax 发布 Music 3.0，一款可生成最长五分钟完整歌曲的开放权重音乐生成模型

    MiniMax 推出了 Music 3.0，这是一款开放权重音乐生成模型，能够根据创意概念和可选歌词，在单次生成中作曲、编曲并制作出最长五分钟的完整歌曲。该流程将一个基于 Qwen3.5-8B 初始化的 8B Global LLM 与一个 0.6B Local LLM 配对，融合二者连续的隐藏状态来为 2.4B 流匹配模块和 123M Flow-VAE 提供条件，并使用八层 RVQ 以及随时间描述情感、配器和演唱方式的结构化字幕（Structured Captions）。MiniMax 表示，这能更准确地理解创作意图，编曲更丰满，人声更清晰、更自然。

    推荐理由：MiniMax 的架构拆解展示了 8B 全局 LLM 如何与 0.6B 局部模型及流匹配技术栈配合，以解决长歌曲的连贯性问题。

7月27日周一
  1. Modal Blog75

    Moonshot 的 Kimi K3 现已在 Modal 上线，支持 day-zero vLLM

    Modal 在发布当天就在其平台上线了 Moonshot 的 Kimi K3，通过按 token 计费的 Shared API 和专用 Auto Endpoints 提供这款拥有 1M token 上下文窗口的 2.8 万亿参数多模态模型。Modal 表示，针对 K3 架构调优的自定义 DFlash speculator 在 agentic 工作负载上将交互性从每秒 100 token 提升到 460 token，并将每 GPU 吞吐量从 800k TPM 提升到 150 万 TPM。该模型采用混合专家设计，每个 token 激活 896 个专家中的 16 个，Moonshot 在发布前向 vLLM 贡献了新的前缀缓存实现。

    推荐理由：Modal 详细介绍了它如何在发布当天将 Moonshot 的 2.8T 参数 Kimi K3 引入其平台，包括一个自定义 DFlash speculator，将交互性从每秒 100 token 提升到 460 token。

6月23日周二
  1. Modal Blog60

    Modal 推出 Auto Endpoints，用于自助式、兼容 OpenAI API 的 LLM 推理

    Modal 推出了 Auto Endpoints，这是一项自助式服务，可将生产级 LLM 推理部署为兼容 OpenAI API 的端点，并由用户可见且可控的 Modal App 提供支持。每个受支持的模型都附带一个初始部署，该部署根据 Modal 自身的基准测试进行调优，使用 SGLang 等引擎以及来自 Z Lab 的 DFlash 推测解码草稿器，用户可以查看 GPU 选择、引擎标志以及 TTFT、ITL 和推测解码接受长度等推理指标。Modal 还将 Modal Servers 从测试版发布，用于提供开销为 5ms 的区域化路由，并表示它通过一个仍由人类工程师监控的内部智能体系统来生成端点部署。

    推荐理由：Modal 的 Auto Endpoints 公开了托管推理提供商通常隐藏的服务栈、引擎指标和基准测试配方，为团队提供了一条自助式路径来拥有开放模型推理。

6月19日周五
  1. Modal Blog60

    Modal 为 Qwen 3.5 和 3.6 发布 DFlash 推测器，声称额外提速 5-20%

    Modal 在 Hugging Face 上为 Qwen 系列发布了一组 DFlash 草稿模型，包括 Qwen 3.6 35B-A3B-DFlash 和从 4B 到 122B-A10B 的 Qwen 3.5 变体，以及一个用 SGLang 构建的 Qwen 3.5 397B-A17B 的 DFlash 推测器。该公司表示，新的草稿器在现有 DFlash 基线之上额外提速 5-20%，并且可以在 B200 节点上以并发 1 运行 Qwen 3.5 122B-A10B 达到超过 1000 tok/s，而不使用推测时为 250 tok/s。文章认为，在内核优化只能带来几个百分点提升的地方，推测解码可带来 2 倍至 3 倍的增益，并提出了一个根据接受长度估算加速比的 roofline 模型。

    推荐理由：Modal 解释了为何押注推测解码，并为 Qwen 系列发布了 DFlash 草稿模型，附有实测加速比和用于估算增益的 roofline 模型。

6月1日周一
  1. MiniMax Blog87

    MiniMax M3 发布，具备 100 万上下文、前沿编程能力与原生多模态

    MiniMax 发布了 M3，这是一款开放权重模型，据称是首个将前沿编程与智能体性能、100 万 token 上下文窗口以及原生图像和视频输入结合在一起的模型。M3 采用 MiniMax 新的 MSA 稀疏注意力架构，公司报告称该架构将 100 万上下文下的每 token 计算量降至上一代的 1/20，并将预填充速度提升 9 倍以上、解码速度提升 15 倍以上。它在 SWE-Bench Pro 上得分 59.0%，在 Terminal-Bench 2.1 上得分 66.0%，在 MCP Atlas 上得分 74.2%，可通过 MiniMax Code、Token Plan 和 API 使用，权重和技术报告承诺在 10 天内发布。

    推荐理由：MiniMax M3 将 100 万 token 上下文、前沿编程与智能体得分以及原生图像和视频输入结合在一个开放权重模型中，MSA 降低了长上下文下的每 token 计算量。