跳到正文
11月13日周五
  1. inclusionAI Models34

    inclusionAI 发布 Duo-1.0-distill-quant FP8 权重,用于全双工交互

    inclusionAI 发布了 Duo-1.0-distill-quant,这是 Duo 1.0 全双工多模态世界模型的 FP8 量化四步蒸馏 Realization 权重。该权重叠加在 inclusionAI/Duo-1.0-causal-base 包之上,后者提供共享的 Intent、编解码器、语音模型和 Realization 主干,并需要支持打包的 ModelOpt FP8 格式的运行时。该权重从 MiniMax H3 初始化,随后由 Duo 团队训练。

  2. inclusionAI Models40

    inclusionAI 发布 Duo-1.0-distill:Duo 1.0 的四步蒸馏权重

    inclusionAI 已发布 Duo-1.0-distill,这是 Duo 1.0 的四步蒸馏 Realization 权重;Duo 1.0 是一个用于实时视听交互的全双工多模态世界模型。该权重以 PyTorch Distributed Checkpoint 覆盖层的形式发布在 inclusionAI/Duo-1.0-causal-base 包上,使用 Euler 采样器、4 步和 flow shift 5.0。该权重从 MiniMax H3 初始化,随后由 Duo 团队训练。

  3. inclusionAI Models38

    SingVL-4B GGUF 发布:基于 Qwen3.5 的 Sing VL S1 4B 多模态决策模型推出 GGUF 版本

    Sing VL S1 是一个基于 Qwen3.5 构建的 4B 参数多模态决策模型,现已发布 GGUF 版本,可用于 llama.cpp 的 CPU 推理。它提供 BF16(8.42 GB)、Q8_0(4.48 GB)和 Q4_K_M(2.71 GB)三种解码器,外加一个共享的 F16 视觉投影器,默认上下文长度为 4096 token。GGUF 验证覆盖 9 个示例和 11 个问题;GGUF 各变体的完整公开评分仍待公布。

  4. Hugging Face Blog69

    IBM 发布基于 Granite 4.1 3B 和 8B 构建的 LLMON 预览模型

    IBM 发布了两款实验性预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,它们基于 Granite 4.1 基础检查点衍生,经过训练能够读取和生成 LLMON——一种 LLM 原生标记语言,用保留的特殊 token 分隔符来标记指令、数据和需求。在 OPI 基准上,这些模型比测试中表现最好的前沿模型多规避了 47% 的间接提示注入攻击,比最好的开源模型多规避了 95%,同时在标准基准上的表现与 Granite 4.1 Instruct 相当。此次发布包含一个 GitHub 工具包,提供无损的 JSON 到 LLMON 转换器,作者指出该预览版仅供探索,不适用于生产环境。

    推荐理由:IBM 在 Granite 4.1 上训练出能读写 LLMON 标记的预览模型,通过显式的指令与数据分离,将 OPI 基准上的间接提示注入成功率压到接近零,同时保持通用能力。

  5. AWS Machine Learning Blog60

    AWS 开源 UAEF:一个与框架无关的 AI Agent 评估系统

    AWS 已开源 UAEF(Universal Agent Evaluation Framework,通用 Agent 评估框架),这是一个与框架无关的系统,通过适配器将来自 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的 Agent 轨迹归一化为统一的 AgentTrace,然后用覆盖 7 个维度的 36 项内置指标进行打分。结果按实验存储在 Amazon DynamoDB 和 Amazon S3 中,使团队可以将 Agent 版本与基线进行比较,用默认 5% 的阈值标记回归,并生成统计报告以及由 LLM 撰写的洞察。文章称,来自电信、医疗和金融服务领域 12 个组织的客户在发布前使用了 UAEF,Apache 2.0 代码、Python 库、CDK 部署和各框架 notebook 均位于 awslabs/uaef GitHub 仓库中。

    推荐理由:AWS 团队开源 UAEF,用适配器把不同框架的 Agent 轨迹统一成一种格式,再以 36 项指标跨 7 个维度打分,为跨框架比较 Agent 版本提供了一套可复用的评测层。

  6. AWS Machine Learning Blog58

    AWS 详解如何用 A2A 构建跨组织多智能体系统

    AWS 发布了一套参考架构:在 Amazon ECS 上基于 LangChain 的企业编排器通过 A2A 协议调用 Amazon Bedrock AgentCore 上基于 Strands Agents 的合规 SaaS 智能体,双方位于不同的 AWS 账户中,且不共享密钥。双方各自使用来自自身 Amazon Cognito 用户池的令牌进行身份验证,SaaS 智能体则回调企业上下文智能体以获取账户元数据,因此这些智能体是作为对等方而非客户端与服务端交互。该系统通过三个 Jupyter notebook 部署,这些 notebook 会创建五个 CloudFormation 堆栈,并运行一次端到端测试以及七项信任边界检查。

11月12日周四
  1. Databricks Blog58

    Block 如何利用 Buzz 和 Databricks Unity Gateway 运行协作式 AI 智能体

    Block 构建了 Buzz,这是一个开源协作工作空间,员工和 AI 智能体可以在其中通过群组讨论、聚焦对话和一对一交流协同工作,并使用 Databricks Unity Gateway 作为模型访问层。员工可以创建智能体、为每个智能体选择背后的模型或编码工具,并选择 Databricks 作为推理提供商,通过单一集成访问 OpenAI、Anthropic 和 Google 的前沿模型以及部分开放权重模型。Block 工程师还在试验多智能体设置,由能力更强的模型协调运行更小、更高效模型的智能体,并已构建了一套内部方法来对这些智能体团队进行基准测试。

  2. AWS Machine Learning Blog36

    使用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体

    AWS 向 Java 团队展示了如何使用 Spring AI 和 Amazon Bedrock 的 AgentCore 构建自主 AI 智能体,并提供了 spring-ai-agentcore 集成。文中详细介绍了两个参考系统:一个具备工具调用和记忆功能的单智能体旅行助手,以及一个包含五个专业智能体、规则引擎和告警功能的多智能体智能文档处理平台。该技术栈需要 JDK 21、Spring Boot 4.1 与 Spring AI 2.0,并通过 AgentCore 运行时在 ARM64 容器上部署。

  3. Hugging Face Blog36

    Hugging Face 发布 TRELLIS.2 3D 生成微调指南与脚本

    Hugging Face 发布了 TRELLIS.2 的微调脚本和容器,该模型是一个 3D 生成模型,可在本地或 Hugging Face Jobs 上运行。该指南通过 PEFT 库使用 LoRA 适配器,仅作用于稀疏结构流 DiT 和形状流 DiT,材质阶段保持冻结。在 GSO 数据集的 188 个物体鞋类子集上,预训练模型经常渲染出错误的鞋底,这正是 LoRA 微调所针对的问题。

  4. AWS Machine Learning Blog36

    2026年10月AWS为AI构建者带来的更新:Claude Haiku 5.5、GPT-6.1 Terra、AgentCore CLI 1.0

    AWS的2026年10月汇总新增了Claude Haiku 5.5,Anthropic称其在大多数任务上的成本比Claude Haiku 4.5低约75%;此外还有在Amazon Bedrock上线的OpenAI GPT-6.1 Terra,支持最多100万输入token,价格至少比GPT-6.1 Sol和GPT-5.6 Terra低50%。AgentCore CLI达到1.0版本,AgentCore Gateway新增了模型回退和将Step Functions工作流作为agent工具的功能。

11月11日周三
  1. Hugging Face Blog42

    Tether AI Research 发布 BotPsy:基于 Qwen3.5-0.8B 构建的 0.8B 端侧智能体模型

    Tether AI Research 发布了 BotPsy,这是一个基于 Qwen3.5-0.8B 构建的 0.8B 参数智能体模型,用于端侧个人助手的工具调用。其智能体得分约为基线的两倍,BFCL v4 从 23.4 升至 44.0,τ-bench 从 23.2 升至 51.5,并在六项工具调用基准测试中优于所有参数量不超过 1.2B 的受测模型。它还将不安全回复从 36% 降至 21%,并在 GPQA Diamond 上使用的推理 token 数减少约 3 倍。

  2. inclusionAI Models40

    inclusionAI 发布 ZoomGain-9B 和 ZoomGain-4B 模型,附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 ZoomGain-9B 和 ZoomGain-4B 视觉语言模型检查点,以及 ZoomGainBench 评估基准和 ZoomGain RL 训练数据。ZoomGain 挖掘从全局到放大的感知差距,以构建细粒度视觉监督,ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。ZoomGainBench 包含覆盖 941 张图像的 1,000 个问题,而 RL 数据集包含 9,000 条训练记录和 7,713 张源图像。

  3. inclusionAI Models38

    inclusionAI 发布 ZoomGain-4B 和 ZoomGain-9B,并附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 arXiv 论文、ZoomGainBench 评估基准、RL 训练数据集以及 ZoomGain-4B/ZoomGain-9B 模型检查点。28 个模型中表现最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多个细粒度和通用感知基准上达到了更优性能。ZoomGain 挖掘从全局到放大的感知差距,为视觉语言模型构建细粒度视觉监督。

  4. LangChain Blog60

    LangChain 解释 Deep Agents 如何在不把所有内容都保留在上下文窗口中的情况下管理上下文

    LangChain 详细说明了其开源 Deep Agents 框架如何使用中间件来对抗长时间智能体运行中的上下文腐化。超过约 20,000 token 的工具结果和超过 50,000 token 的用户消息会被卸载到文件中,仅显示预览;而当使用量达到上下文窗口的 85% 时,摘要功能会压缩较早的消息。技能、子智能体和一个 markdown 长期记忆文件使主智能体的窗口保持较小,并让记忆能够跨模型和提供商延续。

    推荐理由:LangChain 解释了其开源 Deep Agents 框架如何使用中间件来卸载、摘要和隔离上下文,为执行长任务的智能体提供了一种可复用的模式。

  5. inclusionAI Models22

    inclusionAI 发布 ZoomGain-9B 的 GGUF 权重

    inclusionAI 已发布 ZoomGain-9B 的 GGUF 格式权重,使用 llama.cpp 转换,涵盖语言模型以及视觉编码器/投影器(mmproj),提供 FP16、Q8_0 和 Q4_K_M 版本。图像输入需要将语言模型与匹配的 mmproj 文件配对使用,仓库中记录了通过 llama-mtmd-cli 进行 CLI 推理以及通过 llama-server 搭建网页聊天环境的方法。需要支持 Qwen3.5 多模态的 llama.cpp 构建,量化可能影响准确率。

  6. MiniMax Blog75

    MiniMax 发布 H3-Image,一款可在 10 秒内生成 4K 图像的开源权重模型

    MiniMax 发布 H3-Image,这是一款基于 H3 构建的开源权重图像生成模型,支持文生图、参考图生成和图像编辑,可在 10 秒内生成 4096 × 4096 的图像。该公司表示,它最多可处理 16 张参考图,声称在开源权重模型中具有最先进的提示词遵循能力,并报告速度最高可达主流替代方案的 5 倍。H3-Image 可通过 MiniMax API 平台、MiniMax Code 和海螺 AI 使用,定价为同类产品的 50–70%,发布周期间 4K 及以上请求享受 50% 折扣。

    推荐理由:MiniMax 发布开源权重 H3-Image,声称可在 10 秒内生成 4K 图像,定价为同类主流产品的 50–70%,为开发者提供了一个用于高分辨率图像工作的新开源选择。

  7. Google Developers Blog75

    Google 发布 A2UI 1.0,一个用于智能体生成原生 UI 的稳定开放协议

    Google 发布了 A2UI 1.0,这是其开放协议的首个稳定版本,该协议让 AI 智能体能够以交互式界面作答,这些界面由各应用自身的原生组件渲染。1.0 版本新增了双向函数调用、无障碍支持和扩展元数据,并提供了面向 React、Angular、Lit、Flutter、SwiftUI 和 Jetpack Compose 的开源渲染器(Compose 渲染器目前为 0.9.1,1.0 版本即将推出),以及面向 Python、TypeScript 和 Dart 的智能体 SDK。Atlassian 正将 A2UI 引入 Jira,Alation 在 Claude 中用其渲染信息流,字节跳动于 2026 年 6 月发布了一款 Lynx 渲染器,目前支持 0.9 版本。

    推荐理由:Google 稳定的 A2UI 1.0 协议让智能体能够返回原生交互式界面,而非大段文字,并提供了面向 Web、Android 和 iOS 的渲染器,早期采用者包括 Atlassian 和字节跳动。

11月10日周二
  1. Amazon Science62

    Amazon 发布 Mitra-v2 表格基础模型,采用规模化合成预训练

    Amazon 推出 Mitra-v2,这是用于分类和回归的第二代表格基础模型,随附微调模型以及推理和微调代码,以 Apache-2.0 许可证在 Hugging Face 上发布。它使用合成表格进行预训练,行数是 Mitra-v1 的 10 倍,列数约为其 3 倍,采用新的混合 SCM 先验和混合优化器,同时保持 Transformer 架构不变。在包含 51 个真实世界数据集的公开基准 TabArena 上,Mitra-v2 在单模型领域领先,在两者均原生运行的 33 个数据集中的 32 个上优于 Mitra-v1,并在 1 小时预算内完成全部 51 个数据集;微调后的 Mitra-v2 还在 ScoringBench 上排名第一。

    推荐理由:Mitra-v2 表明,扩大合成预训练数据而非加深网络,能将表格基础模型提升至 TabArena 单模型领域的首位。

  2. LiveKit Blog40

    LiveKit Portal for ROS 2 发布:通过 WebRTC 桥接 ROS 图

    LiveKit 发布了 LiveKit Portal for ROS 2,这是一个独立的 ROS 2 节点,可将 ROS 图连接到 LiveKit 房间,使 ROS 和非 ROS 参与者能够通过 WebRTC 交换话题、服务调用和视频,而无需跨网络暴露 DDS。它支持四条数据路径——通过 DataTracks 传输话题、通过 RPC 传输服务、将图像作为 VideoTracks 传输,以及直接视频源——并提供 YAML 规则来配置方向、速率限制和模式编码。一个演示将立体 SLAM 和场景重建从 Jetson Orin Nano 漫游车卸载到桌面 RTX 5090。

  3. Google Developers Blog72

    Google AI Edge Gallery 新增端侧语音识别与文本转语音功能

    Google 在 Google AI Edge Gallery 中引入端侧自动语音识别(ASR)与文本转语音(TTS),使应用能够在完全离线的情况下运行多语言 ASR 和富有表现力的 TTS,并与 Gemini Nano、Gemma 4 等端侧 SLM 协同工作。在 Android 上,ML Kit 的新语音模型以 10 倍实时速度转写 100 多种语言,在 FLEURS 上的词错误率为 8.0% 至 9.0%;而少步扩散 TTS 约 100 毫秒即可开始发声,并以最高 50 倍实时速度生成 24 kHz 音频。跨平台支持通过 MediaPipe Tasks 和 LiteRT 实现,提供包括 Parakeet-TDT 0.6B、PocketTTS 100M、Kokoro-82M 和 Phonon 31M 在内的开放权重包,并在 XR Language Teacher 展示和语音版 AI Chat 中进行了演示。

    推荐理由:Google 为 AI Edge Gallery 添加了完全离线的 ASR 和 TTS,ML Kit 报告称可 10 倍实时转写 100 多种语言,扩散 TTS 约 100 毫秒即可开始发声。

11月9日周一
  1. Hugging Face Blog38

    NVIDIA 与 Elith 发布 Nemotron-Personas-Finance-Japan 合成数据集

    Elith 与 NVIDIA 发布了 Nemotron-Personas-Finance-Japan,这是一个基于官方政府统计数据构建的日本金融行业开放合成人物数据集。它包含 50 个领域的 900 万个人物(100 万条记录 × 9 个人物)和约 15 亿个 token,使用 NeMo SDG-PGMs 和 NeMo Data Designer 生成,并以 CC BY 4.0 许可提供,可用于商业用途。

  2. NVIDIA Blog70

    NVIDIA 在 CoRL 上发布 GR00T 2 世界动作模型和 Isaac Lab 3.0

    NVIDIA 在 CoRL 上推出了 GR00T 2——一个基于 Cosmos 构建、在 10 万小时人类第一视角数据上训练的开源世界动作模型,同时发布了 Isaac Lab 3.0 和新的机器人基准测试。GR00T 2 在没有任务特定演示的情况下,至少完成了一次 50 个评估任务中的 40 个;在每项任务仅提供一次演示的情况下,50 项任务的平均成功率达到 71%,提供五次演示时则升至 95%。Isaac Lab 3.0 新增了面向可变形物体的 Newton 物理集成,并在一个基于视觉的灵巧操作基准测试中报告其训练吞吐量最高可达使用 PhysX 的 Isaac Lab 2.3 的 2.5 倍。

    推荐理由:NVIDIA 在 CoRL 上的发布表明,仿真加上世界动作模型如今正瞄准精细装配工作,GR00T 2 和 Isaac Lab 3.0 的细节值得与先前的机器人技术栈进行比较。

  3. Hugging Face Blog40

    HOPE:混合专家语言模型中专家的高阶剪枝

    研究人员提出 HOPE,一种针对混合专家语言模型的二阶专家剪枝方法,该方法考虑共同激活专家之间的成对交互,而非独立地对每个专家评分。在 50% 剪枝率下,HOPE 取得了所有方法中最佳的平均排名,在智能体编程任务上相比次优剪枝方法最高提升 +6.1%。该工作针对 Qwen3.5-122B 等模型的内存瓶颈,其中专家 MLP 占据了约 250 GB 占用空间的 95%。

  4. Zyphra Research78

    Zyphra 发布 ZONOS3-Mini:一款可在设备端运行的 Apache 2.0 零样本语音克隆 TTS 模型

    Zyphra 发布了 ZONOS3-Mini,这是一款稀疏 MoE 文本转语音模型,激活参数 100M、总参数 800M,采用 Apache 2.0 许可,在 112 块 NVIDIA H100 上训练了 2.5 天。它在 Pixel 9 的浏览器中首音频延迟低于 570 毫秒,在 M3 MacBook Air 上低于 150 毫秒,并提供 WebGPU、SGLang、vLLM 和 GGML 运行时。该模型增加了对身份、口音、质量、情绪和表达方式的控制,包括词级调控,Zyphra 报告称其在其新的 ZTTS2-Eval 基准上在开源模型中排名第一。

    推荐理由:Zyphra 的紧凑型 MoE TTS 模型将零样本语音克隆与词级表达控制相结合,同时能在手机和笔记本电脑上实时运行。

  5. inclusionAI Repositories38

    ZoomGain:挖掘全局到缩放感知差距,用于细粒度视觉监督

    ZoomGain 利用只有放大后才能看清的视觉细节,针对整张图像构建问题,并将这种全局到缩放的感知差距用作视觉语言模型的监督信号。发布内容包括 arXiv 论文、ZoomGainBench 基准(1,000 个问题,覆盖 941 张图像,涉及属性识别、计数和 OCR)、基于 7,713 张源图像的 9,000 条强化学习训练记录,以及 ZoomGain-4B 和 ZoomGain-9B 检查点。28 个模型中最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。

  6. Google Developers Blog60

    Google Cloud MaxText 新增上下文并行,支持在 TPU 上进行长上下文训练

    Google Cloud 在其开源 JAX 训练框架 MaxText v0.2.4 中发布了长上下文训练支持,在 Cloud TPU 上新增四种上下文并行策略:All-gather、A2A(DeepSpeed Ulysses)、P2P(Ring Attention)以及 A2A + P2P 混合(USP)。Llama 3.1 8B 的基准测试在 TPU 5p 上、序列长度最高达 400 万 token 时达到 70% MFU,上下文在 TPU 5p 和 TPU 7 上均扩展至 1400 万 token,其中 TPU 7 在低于 600 万 token 时保持 50% MFU。该版本已在 PyPI、Docker 镜像和 GitHub main 上提供,并附有 TPU 7 和 TPU 5p 的示例配方。

    推荐理由:MaxText 在 Cloud TPU 上的四种上下文并行策略,以及 Llama 3.1 8B 的基准 MFU 数据,为团队选择如何在数百万 token 序列长度下进行训练提供了具体参考。

11月6日周五
  1. Hugging Face Blog58

    Ai2 发布 ToyBlocks:一个用于机器人学习的开放模拟积木操作世界

    Ai2 发布了 ToyBlocks,这是一个围绕机械臂和桌面上的积木构建的开放模拟框架,是 FoundationWorlds 系列中首个用于受控机器人学习与评估的世界。该框架在 Isaac Lab 中通过强化学习和运动规划自动生成技能与演示,在单块 GPU 上可达最高 24 倍实时速度,并附带 85,336 条长时程演示,覆盖近 1,600 小时和 1.44 亿帧。在其实验中,ManiFlow 的原子技能成功率在模拟中为 80.0%,在真实 Franka FR3 上为 81.1%;而 Molmo 2 加 ManiFlow 系统在模拟和真实场景中的回合成功率分别为 55.5% 和 50.0%。

  2. Ai2 · Allen Institute for AI58

    Ai2 发布 ToyBlocks:一个用于机器人学习与评估的可控模拟世界

    Ai2 发布了 ToyBlocks,这是一个围绕机械臂和桌面方块构建的开放模拟框架,作为其 FoundationWorlds 中首个用于可控机器人学习研究的项目。ToyBlocks 在 Isaac Lab 中通过强化学习和运动规划自动生成任务与演示,在单块 GPU 上数据生成速度最高可达实时的 24 倍,并附带 85,336 条长时程演示,覆盖近 1,600 小时和 1.44 亿帧。在 Franka FR3 上的真实世界测试中,ManiFlow 的原子技能成功率在模拟中为 80.0%,在硬件上为 81.1%;而 Molmo 2 加 ManiFlow 系统在模拟和真实回合中的成功率分别为 55.5% 和 50.0%。

  3. vLLM Blog77

    REINFORCE Zero:内核对齐使异步强化学习在策略滞后64时保持稳定,并扩展至DeepSeek-V4.1和Kimi K3.1

    NVIDIA Research与Inferact的REINFORCE Zero论文表明,对齐rollout与训练器内核后,未裁剪的token级重要性采样能够纠正剩余的权重滞后,在策略滞后64时稳定训练20,000次更新,并在内核对齐的情况下达到同步训练训练步吞吐量的2.40倍。使用标准内核时,整个运行过程中rollout到学习器的KL中位数上升83.33倍,在线AIME24 pass@1从34.27%降至13.96%,而序列门控虽能稳定训练,但在最后1,000次更新时拒绝了24.48%的序列。零失配设置现已覆盖DeepSeek-V4.1-Flash、发布当日的Kimi K3.1,以及AMD MI355X上的DeepSeek-V4-Flash和Kimi K3.1,代码位于Inferact/zero-mismatch-rl和NVIDIA-NeMo/labs-molt。

    推荐理由:NVIDIA Research与Inferact将异步强化学习的rollout-学习器差距拆分为权重滞后和内核失配,表明对齐内核可使未裁剪的重要性采样在策略滞后64时保持稳定训练。

  4. vLLM Blog55

    VeRL-Omni v0.3.0 发布,支持异步训练和更广泛的多模态后训练

    VeRL-Omni v0.3.0 发布,包含异步与解耦的强化学习执行路径,默认使用 V1 训练器,并扩展了覆盖图像、视频、音频和多模态理解的后训练范围。该版本新增完全异步的 Qwen3-Omni 文本与音频训练、带重放缓冲区的分离异步 Omni 与扩散训练,以及包括 MiniMax H3 搭配 DiffusionNFT 和 MiniCPM-o 4.5 GSPO 在内的新配方。在 4×H800 80 GB 上的 MiniCPM-o 4.5 AVQA 实验中,分离异步 3+1 在自然响应长度下每个提示比同置 4+0 慢约 9%,在 512 token 时大致持平,在 1024 token 时快约 6.7%。

11月5日周四
  1. Zyphra Research36

    ZYFA:在 AMD MI355X 上快速且准确的 FP8 注意力内核

    Zyphra Research 发布了 ZYFA,这是面向 AMD MI355X(CDNA4,gfx950)的 BF16 和 FP8 因果预填充注意力内核,支持头维度 128 以及 DeepSeek-V2 的 MLA 形状。在 16K token 下,使用 Mistral-7B、Qwen3-8B 和 DeepSeek-V2-Lite 的激活值,ZYFA 的 FP8 内核吞吐量达到 AITER 的 1.16–1.76 倍;在 32K token 下的高斯输入上,头维度 128 时达到 1.26–1.37 倍,MLA 形状下达到 1.99 倍。在头维度 128 时,FP8 误差比 AITER 低 62–78%。

  2. inclusionAI Repositories38

    ASpec:面向投机解码草稿模型的高吞吐量训练框架

    ASpec 是一个面向投机解码草稿模型的高吞吐量训练框架,基于 TorchSpec 代码库构建,具备优化的注意力机制、融合内核以及选择性 head/loss 计算。在 Qwen3-8B 4K 运行中,仅草稿模型训练在单 GPU 上达到 15,256.44 输入 tokens/s,为 TorchSpec 的 1.96 倍;而 8-GPU 在线稳态窗口达到 77,721.37 tokens/s,为 TorchSpec 的 2.28 倍。它支持 DSpark、DFlash、EAGLE3/4 和原生 MTP 草稿模型,并提供 Qwen3-8B 和 Ling tiny 快速入门。

  3. Google Research47

    Google Research 的 Agile Deliberation 帮助人类定义主观性 AI 类别

    Google Research 推出了 Agile Deliberation,这是一个将主观性 AI 分类器创建转化为迭代式对话的框架,AI 在其中帮助用户厘清自己的定义。该框架将任务拆分为概念范围界定和概念迭代,利用视觉语言模型找出边界图像,并将反馈接入自动提示优化循环。在 18 场时长 1.5 小时的实时用户会话中,该方法减轻了用户的疲劳与焦虑,并产出了更一致的模型,其表现优于标准基线;代码已在 GitHub 上开源。

  4. Preferred Networks News71

    PFN发布面向边缘设备的开放权重翻译大模型PLaMo 3 Translate

    Preferred Networks于11月5日在Hugging Face上以开放权重模型形式发布了PLaMo 3 Translate,这是其PLaMo Translation服务中使用的翻译专用大语言模型。该模型提供0.8B、2B、8B和31B四种规模,支持包括日语和英语在内的53种语言,可在智能手机、笔记本电脑和内部服务器上运行,无需连接云端。

    推荐理由:PFN发布了四种规模(从0.8B到31B)的翻译专用大语言模型,使企业和个人无需云端访问即可在设备端运行53种语言的翻译。

10月29日周四
  1. Mistral AI86

    Mistral 发布 Mistral Large 4(Le Chonk)开放权重,这是一个 1 万亿参数的多模态模型

    Mistral AI 发布了 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,本月早些时候进入公开预览,并在欧洲从零开始训练。该公司表示,额外三周的强化学习使其登顶开放权重编码榜首,在 Terminal-Bench 4.0 上达到 41%,在 Artificial Analysis Coding Agent Index 上达到 48%,同时每项任务使用的 token 比 GLM-5.3 少 47%。它新增了低、中、高三种推理模式,在 Artificial Analysis Cyber Index 上得分 51%,在修改版 MIT 许可证下,定价为每百万 token 输入 $0.70、缓存输入 $0.07、输出 $2.10。

    推荐理由:Mistral 开放了其 1 万亿参数旗舰模型的权重,将编码和防御性安全基准的提升与三种推理模式和按 token 定价相结合。

  2. inclusionAI Repositories52

    Inclusion AI 的 IDM 将生成器 EMA 特征进行匹配,以加速一步和两步文本到图像生成

    Inclusion AI 与学术合作者发布了 IDM,这是一种蒸馏方法,将内部分布匹配与生成器自身 EMA 特征空间中的矩匹配相结合,无需外部特征编码器。在 2 NFE 下,IDM(Z-Image)在 LongText-CN 上得分 94.25%,在 LongText-EN 上得分 90.20%;全参数 IDM(Z-Image)在单张 A100 上以 BF16 运行,1 NFE 耗时 0.25 秒,2 NFE 耗时 0.30 秒。同一个训练好的检查点同时支持 1-NFE 和 2-NFE 采样,代码以 Apache 2.0 发布,检查点则标注为即将推出。

  3. inclusionAI Models34

    inclusionAI 发布 Ling-3.0-flash-Sante-fp8,一个 FP8 量化的医疗健康模型

    inclusionAI 发布了 Ling-3.0-flash-Sante-fp8,这是其医疗健康专用模型 Ling-3.0-flash-Sante 的 FP8 量化版本,保持 124B 总参数和每 token 5.1B 激活参数。它在医疗健康基准测试上的平均分为 73.9,与 BF16 检查点持平,同时降低了支持 FP8 的硬件的权重内存占用。该仅用于研究的模型支持 256K token 上下文,默认使用带工具调用的思考模式。

10月28日周三
  1. Ai2 · Allen Institute for AI40

    研究人员如何将 olmOCR 2 适配于历史和考古档案

    研究人员正在改造 Ai2 的开源 olmOCR 2 模型,用于转录历史和考古档案。历史学家 Maurice Casey 构建了 ArtificeOCR,在本地将 olmOCR 2 与 Tropy 配合运行,使他的档案照片库可进行关键词搜索;而维也纳工业大学的 CENTURIA 项目则用 LoRA 在 57 条标注记录上对 olmOCR 2 进行微调,将 450 条测试记录上的转录错误率从 15.58% 降至 1.11%。