跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

43 条精选近 30 天 30 条共收录 186 条

11月13日 08:32更新

开源生态

今天11月13日周五第 1–20 条 / 共 43 条
  1. Hacker News · AI76

    AgentRun 开源发布:为现有 Agent harness 加上自改进与持久执行

    Parcha Labs 开源 AgentRun,一个在 Claude Code、Codex、OpenCode 和 pi 之上叠加自改进、持久执行与控制台的 Agent 平台,采用 Apache-2.0 许可。

    推荐理由:AgentRun 把自改进、持久执行和控制台叠加在 Claude Code、Codex 等现有 harness 之上,并给出代码审查成本从每月 6451 美元降到每次 18 美分的具体案例。

  2. Hacker News · AI88

    Edge0 开源端侧模型 Edge0-145B 与 Edge0-120B 及推理框架

    Edge0 开源了 Edge0-145B 和 Edge0-120B,以及其统一推理框架和部署工具,并称 Edge0-145B 是首个开源的 145B 参数端侧模型。该公司报告称,在兼容笔记本上峰值内存为 29GB,预填充速度 1,100+ tokens/s,解码速度 80+ tokens/s,典型功耗约 120W,上下文长度为 128K–256K。它引用的内部得分为:DeepSWE 1.1 上 64.6,Terminal-Bench 2.1 上 86.52,GPQA-Diamond 上 90.4,IFBench 上 80.6,并表示权重已发布在 Hugging Face 上,首日即支持 macOS、Windows 和 Linux。

    推荐理由:Edge0 开源了一款 145B 端侧模型,报告峰值内存 29GB、解码速度 80+ tokens/s,为本地推理能扩展到何种程度提供了一个具体数据点。

  3. Hugging Face Blog69

    IBM 发布基于 Granite 4.1 3B 和 8B 构建的 LLMON 预览模型

    IBM 发布了两款实验性预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,它们基于 Granite 4.1 基础检查点衍生,经过训练能够读取和生成 LLMON——一种 LLM 原生标记语言,用保留的特殊 token 分隔符来标记指令、数据和需求。在 OPI 基准上,这些模型比测试中表现最好的前沿模型多规避了 47% 的间接提示注入攻击,比最好的开源模型多规避了 95%,同时在标准基准上的表现与 Granite 4.1 Instruct 相当。此次发布包含一个 GitHub 工具包,提供无损的 JSON 到 LLMON 转换器,作者指出该预览版仅供探索,不适用于生产环境。

    推荐理由:IBM 在 Granite 4.1 上训练出能读写 LLMON 标记的预览模型,通过显式的指令与数据分离,将 OPI 基准上的间接提示注入成功率压到接近零,同时保持通用能力。

  4. AWS Machine Learning Blog66

    AWS 更新 AgentCore 运行时:会话启动速度提升 15 倍,算力提升 4 倍

    AWS 宣布更新 Amazon Bedrock AgentCore 运行时——其面向智能体的托管计算层,会话启动速度现已提升至多 15 倍,算力扩展至 4 倍(最高 8 vCPU 和 32 GB,容器镜像最大 10 GB),运行效率提升至多 68%,同时每个会话仍运行在各自硬件隔离的 Firecracker MicroVM 中。无论镜像大小或并发量如何,会话启动均在 2 秒以内,空闲智能体可缩容至零,智能体可挂载文件系统(如支持 FUSE 的 Amazon S3 桶)并保存工作成果,使数据始终留在信任边界内。该运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域可用。

    推荐理由:AgentCore 运行时的新版本将会话启动、算力上限和内存计费一并调整,为需要长时间运行的智能体在隔离与成本之间提供了新的取舍。

  5. AWS Machine Learning Blog60

    AWS 开源 UAEF:一个与框架无关的 AI Agent 评估系统

    AWS 已开源 UAEF(Universal Agent Evaluation Framework,通用 Agent 评估框架),这是一个与框架无关的系统,通过适配器将来自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的 Agent 轨迹归一化为统一的 AgentTrace,然后用覆盖 7 个维度的 36 项内置指标进行打分。结果按实验存储在 Amazon DynamoDB 和 Amazon S3 中,使团队可以将 Agent 版本与基线进行比较,用默认 5% 的阈值标记回归,并生成统计报告以及由 LLM 撰写的洞察。文章称,来自电信、医疗和金融服务领域 12 个组织的客户在发布前使用了 UAEF,Apache 2.0 代码、Python 库、CDK 部署和各框架 notebook 均位于 awslabs/uaef GitHub 仓库中。

    推荐理由:AWS 团队开源 UAEF,用适配器把不同框架的 Agent 轨迹统一成一种格式,再以 36 项指标跨 7 个维度打分,为跨框架比较 Agent 版本提供了一套可复用的评测层。

11月12日周四
  1. vLLM Blog60

    vLLM 为 Thinking Machines 的 Inkling 2 Small 提供 day-0 支持

    vLLM 在 day 0 支持 Thinking Machines 的 Inkling 2 Small,这是一个多模态文本与视觉 MoE,总参数 594B、激活参数 17B,上下文最高可达 1M token。该集成加入了带 PDL 的内核融合、用于 prefill 的序列并行(在 TP4 下将 8K token 的 prefill 步骤缩短 22%,TP8 下缩短 26%),以及一个 Gluon 相对注意力解码内核,将 100K 上下文下 batch-1 的解码步骤从 15.1 ms 降至 4.8 ms。vLLM 报告在 GB200 上 TP4 时每用户最高 630 TPS,接受长度为 3.5,并且还通过 SkyRL 支持 LoRA 和 RL。

    推荐理由:vLLM 在发布当天即支持 Inkling 2 Small,并给出内核融合、序列并行和 Gluon 解码内核的具体优化数据,可供部署大 MoE 模型的团队参考。

  2. vLLM Blog64

    vLLM-Omni 在 Vera Rubin 上对 MiniMax H3-Image 进行基准测试:0.87 秒生成 4K 图像,每小时 6,115 张

    vLLM-Omni 将 MiniMax H3-Image 引入 NVIDIA Vera Rubin,在四块 GPU 上测得原生 4096×4096 文本到图像的中位延迟为 0.87 秒,并在另一吞吐配置下达到每小时 6,115 张图像。H3-Image 是一个开放权重的文本到图像与编辑模型,将 Qwen3-VL 编码器与 33.1B 稠密 DiT 及图像 VAE 相结合,在六步采样内处理两项任务,最多支持 16 张参考图像。团队报告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 缓存以及一项将解码时间从 2.635 秒缩短至 0.213 秒的 VAE 解码改动,并列出了面向 AMD、Intel、华为昇腾和摩尔线程硬件的配置方案。

    推荐理由:vLLM-Omni 的基准测试显示 MiniMax H3-Image 在 Vera Rubin 上以亚秒级 4K 延迟运行,并提供了各硬件配置及服务经济性成本模型。

11月11日周三
  1. LangChain Blog60

    LangChain 解释 Deep Agents 如何在不把所有内容都保留在上下文窗口中的情况下管理上下文

    LangChain 详细说明了其开源 Deep Agents 框架如何使用中间件来对抗长时间智能体运行中的上下文腐化。超过约 20,000 token 的工具结果和超过 50,000 token 的用户消息会被卸载到文件中,仅显示预览;而当使用量达到上下文窗口的 85% 时,摘要功能会压缩较早的消息。技能、子智能体和一个 markdown 长期记忆文件使主智能体的窗口保持较小,并让记忆能够跨模型和提供商延续。

    推荐理由:LangChain 解释了其开源 Deep Agents 框架如何使用中间件来卸载、摘要和隔离上下文,为执行长任务的智能体提供了一种可复用的模式。

  2. MiniMax Blog75

    MiniMax 发布 H3-Image,一款可在 10 秒内生成 4K 图像的开源权重模型

    MiniMax 发布 H3-Image,这是一款基于 H3 构建的开源权重图像生成模型,支持文生图、参考图生成和图像编辑,可在 10 秒内生成 4096 × 4096 的图像。该公司表示,它最多可处理 16 张参考图,声称在开源权重模型中具有最先进的提示词遵循能力,并报告速度最高可达主流替代方案的 5 倍。H3-Image 可通过 MiniMax API 平台、MiniMax Code 和海螺 AI 使用,定价为同类产品的 50–70%,发布周期间 4K 及以上请求享受 50% 折扣。

    推荐理由:MiniMax 发布开源权重 H3-Image,声称可在 10 秒内生成 4K 图像,定价为同类主流产品的 50–70%,为开发者提供了一个用于高分辨率图像工作的新开源选择。

  3. NVIDIA Blog60

    NVIDIA 将 OpenShell Agent 运行时贡献给 CNCF,并新增 DSX Kubernetes 工具

    NVIDIA 正将其用于保护和治理自主 Agent 的开源运行时 OpenShell 作为 Sandbox 项目贡献给云原生计算基金会,同时也为 Google 主导的 Agent Substrate 做出贡献。NVIDIA 宣布了三个新的 DSX AI Factory 平台组件:NVIDIA Kubernetes Engine 和 NVIDIA Kubernetes Recipes(现已进入公开预览),以及 NVIDIA Snapshot,后者可在数秒内恢复检查点副本,无需重新加载模型或预热。Crusoe 在 Crusoe Cloud 上测试了 GLM-5.3,将工作负载就绪时间从大约八分钟缩短至 31 秒,而 Saturn Cloud 将 vLLM 启动时间从 2 到 8.5 分钟缩短至 6 分 34 秒。

    推荐理由:NVIDIA 将其 Agent 安全运行时 OpenShell 贡献给 CNCF,并为 GPU AI 工厂新增 Kubernetes 工具,早期 Snapshot 结果将推理启动时间从数分钟缩短至数秒。

  4. Google Developers Blog75

    Google 发布 A2UI 1.0,一个用于智能体生成原生 UI 的稳定开放协议

    Google 发布了 A2UI 1.0,这是其开放协议的首个稳定版本,该协议让 AI 智能体能够以交互式界面作答,这些界面由各应用自身的原生组件渲染。1.0 版本新增了双向函数调用、无障碍支持和扩展元数据,并提供了面向 React、Angular、Lit、Flutter、SwiftUI 和 Jetpack Compose 的开源渲染器(Compose 渲染器目前为 0.9.1,1.0 版本即将推出),以及面向 Python、TypeScript 和 Dart 的智能体 SDK。Atlassian 正将 A2UI 引入 Jira,Alation 在 Claude 中用其渲染信息流,字节跳动于 2026 年 6 月发布了一款 Lynx 渲染器,目前支持 0.9 版本。

    推荐理由:Google 稳定的 A2UI 1.0 协议让智能体能够返回原生交互式界面,而非大段文字,并提供了面向 Web、Android 和 iOS 的渲染器,早期采用者包括 Atlassian 和字节跳动。

11月10日周二
  1. Amazon Science62

    Amazon 发布 Mitra-v2 表格基础模型,采用规模化合成预训练

    Amazon 推出 Mitra-v2,这是用于分类和回归的第二代表格基础模型,随附微调模型以及推理和微调代码,以 Apache-2.0 许可证在 Hugging Face 上发布。它使用合成表格进行预训练,行数是 Mitra-v1 的 10 倍,列数约为其 3 倍,采用新的混合 SCM 先验和混合优化器,同时保持 Transformer 架构不变。在包含 51 个真实世界数据集的公开基准 TabArena 上,Mitra-v2 在单模型领域领先,在两者均原生运行的 33 个数据集中的 32 个上优于 Mitra-v1,并在 1 小时预算内完成全部 51 个数据集;微调后的 Mitra-v2 还在 ScoringBench 上排名第一。

    推荐理由:Mitra-v2 表明,扩大合成预训练数据而非加深网络,能将表格基础模型提升至 TabArena 单模型领域的首位。

  2. Goodfire Research62

    Goodfire 研究 Qwen3.6-35B-A3B 神经元,视其为可解释的基础

    Goodfire Research 发表研究,认为 Qwen3.6-35B-A3B 中的单个 MLP 神经元比通常假设的更可解释,依据是稀疏化、归因工具和研究智能体。每次前向传播中消融最弱的 92.2% MoE 神经元激活,语言模型损失仅上升 2.9%;69% 的神经元极点有一个单一模式贡献了至少 90% 的因果效应。自然语言神经元描述让评判模型在随机文本上以 95% 准确率预测激活,并通过模拟恢复 73% 的消融损伤。

    推荐理由:Goodfire 对 Qwen3.6-35B-A3B 神经元的研究认为,仅强激活就承载了模型的大部分计算,为特征字典可解释性提供了具体替代方案。

  3. Google Developers Blog72

    Google AI Edge Gallery 新增端侧语音识别与文本转语音功能

    Google 在 Google AI Edge Gallery 中引入端侧自动语音识别(ASR)与文本转语音(TTS),使应用能够在完全离线的情况下运行多语言 ASR 和富有表现力的 TTS,并与 Gemini Nano、Gemma 4 等端侧 SLM 协同工作。在 Android 上,ML Kit 的新语音模型以 10 倍实时速度转写 100 多种语言,在 FLEURS 上的词错误率为 8.0% 至 9.0%;而少步扩散 TTS 约 100 毫秒即可开始发声,并以最高 50 倍实时速度生成 24 kHz 音频。跨平台支持通过 MediaPipe Tasks 和 LiteRT 实现,提供包括 Parakeet-TDT 0.6B、PocketTTS 100M、Kokoro-82M 和 Phonon 31M 在内的开放权重包,并在 XR Language Teacher 展示和语音版 AI Chat 中进行了演示。

    推荐理由:Google 为 AI Edge Gallery 添加了完全离线的 ASR 和 TTS,ML Kit 报告称可 10 倍实时转写 100 多种语言,扩散 TTS 约 100 毫秒即可开始发声。

11月9日周一
  1. NVIDIA Blog70

    NVIDIA 在 CoRL 上发布 GR00T 2 世界动作模型和 Isaac Lab 3.0

    NVIDIA 在 CoRL 上推出了 GR00T 2——一个基于 Cosmos 构建、在 10 万小时人类第一视角数据上训练的开源世界动作模型,同时发布了 Isaac Lab 3.0 和新的机器人基准测试。GR00T 2 在没有任务特定演示的情况下,至少完成了一次 50 个评估任务中的 40 个;在每项任务仅提供一次演示的情况下,50 项任务的平均成功率达到 71%,提供五次演示时则升至 95%。Isaac Lab 3.0 新增了面向可变形物体的 Newton 物理集成,并在一个基于视觉的灵巧操作基准测试中报告其训练吞吐量最高可达使用 PhysX 的 Isaac Lab 2.3 的 2.5 倍。

    推荐理由:NVIDIA 在 CoRL 上的发布表明,仿真加上世界动作模型如今正瞄准精细装配工作,GR00T 2 和 Isaac Lab 3.0 的细节值得与先前的机器人技术栈进行比较。

  2. Zyphra Research78

    Zyphra 发布 ZONOS3-Mini:一款可在设备端运行的 Apache 2.0 零样本语音克隆 TTS 模型

    Zyphra 发布了 ZONOS3-Mini,这是一款稀疏 MoE 文本转语音模型,激活参数 100M、总参数 800M,采用 Apache 2.0 许可,在 112 块 NVIDIA H100 上训练了 2.5 天。它在 Pixel 9 的浏览器中首音频延迟低于 570 毫秒,在 M3 MacBook Air 上低于 150 毫秒,并提供 WebGPU、SGLang、vLLM 和 GGML 运行时。该模型增加了对身份、口音、质量、情绪和表达方式的控制,包括词级调控,Zyphra 报告称其在其新的 ZTTS2-Eval 基准上在开源模型中排名第一。

    推荐理由:Zyphra 的紧凑型 MoE TTS 模型将零样本语音克隆与词级表达控制相结合,同时能在手机和笔记本电脑上实时运行。

  3. Google Developers Blog60

    Google Cloud MaxText 新增上下文并行,支持在 TPU 上进行长上下文训练

    Google Cloud 在其开源 JAX 训练框架 MaxText v0.2.4 中发布了长上下文训练支持,在 Cloud TPU 上新增四种上下文并行策略:All-gather、A2A(DeepSpeed Ulysses)、P2P(Ring Attention)以及 A2A + P2P 混合(USP)。Llama 3.1 8B 的基准测试在 TPU 5p 上、序列长度最高达 400 万 token 时达到 70% MFU,上下文在 TPU 5p 和 TPU 7 上均扩展至 1400 万 token,其中 TPU 7 在低于 600 万 token 时保持 50% MFU。该版本已在 PyPI、Docker 镜像和 GitHub main 上提供,并附有 TPU 7 和 TPU 5p 的示例配方。

    推荐理由:MaxText 在 Cloud TPU 上的四种上下文并行策略,以及 Llama 3.1 8B 的基准 MFU 数据,为团队选择如何在数百万 token 序列长度下进行训练提供了具体参考。

11月6日周五
  1. vLLM Blog77

    REINFORCE Zero:内核对齐使异步强化学习在策略滞后64时保持稳定,并扩展至DeepSeek-V4.1和Kimi K3.1

    NVIDIA Research与Inferact的REINFORCE Zero论文表明,对齐rollout与训练器内核后,未裁剪的token级重要性采样能够纠正剩余的权重滞后,在策略滞后64时稳定训练20,000次更新,并在内核对齐的情况下达到同步训练训练步吞吐量的2.40倍。使用标准内核时,整个运行过程中rollout到学习器的KL中位数上升83.33倍,在线AIME24 pass@1从34.27%降至13.96%,而序列门控虽能稳定训练,但在最后1,000次更新时拒绝了24.48%的序列。零失配设置现已覆盖DeepSeek-V4.1-Flash、发布当日的Kimi K3.1,以及AMD MI355X上的DeepSeek-V4-Flash和Kimi K3.1,代码位于Inferact/zero-mismatch-rl和NVIDIA-NeMo/labs-molt。

    推荐理由:NVIDIA Research与Inferact将异步强化学习的rollout-学习器差距拆分为权重滞后和内核失配,表明对齐内核可使未裁剪的重要性采样在策略滞后64时保持稳定训练。

  2. OpenClaw Blog69

    OpenClaw 发布 Multiplayer,支持共享 Agent 与上下文

    OpenClaw 发布了 Multiplayer,这是一项免费开源功能,允许多人连接到同一个 OpenClaw Agent 和工作区,提示词会在各台笔记本电脑上实时显示,请求通过共享队列进行协调。在旧金山 GitHub Universe 的演示中,两位参会者在各自的机器上输入提示词,共同编辑同一个 3D 场景,无需重复说明上下文。OpenClaw 基金会表示,已有 50 多人在同一共享环境中协作,并将继续扩展该功能。

    推荐理由:OpenClaw 把多人共享同一 Agent 与上下文做成免费开源功能,为团队协作中反复重建上下文的问题提供了一种可迁移的做法。

11月5日周四
  1. Preferred Networks News71

    PFN发布面向边缘设备的开放权重翻译大模型PLaMo 3 Translate

    Preferred Networks于11月5日在Hugging Face上以开放权重模型形式发布了PLaMo 3 Translate,这是其PLaMo Translation服务中使用的翻译专用大语言模型。该模型提供0.8B、2B、8B和31B四种规模,支持包括日语和英语在内的53种语言,可在智能手机、笔记本电脑和内部服务器上运行,无需连接云端。

    推荐理由:PFN发布了四种规模(从0.8B到31B)的翻译专用大语言模型,使企业和个人无需云端访问即可在设备端运行53种语言的翻译。