跳到正文
11月13日周五
  1. Hacker News · AI58

    研究发现:2026年上半年13.7%的新npm包存在AI风格的过时版本锁定

    Kobi Mozgori抽样了25万个npm包,发现新包中锁定依赖版本大多为已被取代的整数x.0.0版本的比例,从2019年至2024年初的1%–2.4%基线,上升至2026年上半年的13.7%,并在2026年下半年至11月初降至7.6%。2021–2023年,锁定依赖在包创建时的中位年龄约为155天,而2026年第二季度为451天;创建时几乎所有锁定版本均为最新发布的包占比从约28%降至约10%。作者将该模式表述为推断而非证据,因为注册表元数据无法显示是谁或什么编写了清单,并指出2026年中期以来的下降尚无解释。

  2. Hacker News · AI26

    Erik Hoel 提出 Qualiaphobic AI,以设计非意识机器

    Erik Hoel 提出了 Qualiaphobic AI,这是一个研究计划,旨在构建被设计为排斥意识的神经网络架构,类似于疏水物质排斥水的方式。该提案探索了三种方法:依据流行的意识理论对 AI 进行蒸馏、转换或消融;将架构转向查找表等“锚点”;以及碎片化潜在的现象学。Hoel 计划构建并开源这些技术,认为它们可以解决 AI 福利问题,并使人类成为唯一的道德主体。

  3. Hacker News · AI58

    GitHub 上星标最多的 AI 工具中,有多少是由编码智能体编写的?

    对 GitHub 上 52 个星标最多的 AI 工具仓库的完整 git 历史(共 324,088 次提交)进行分析后发现,中位数仓库在其最后 180 天的活动中有 16.9% 的提交带有 AI 签名,52 个仓库中有 21 个达到 25% 或以上。星标数与 AI 签名占比之间未发现可检测的关联(Spearman ρ = -0.05,p = 0.72),且 36,892 次签名提交中有 85.3% 来自 Claude,其工具默认会添加 trailer。作者提醒,大量使用 AI 的情况集中在 2025 年或之后启动的项目中,因此样本无法将 AI 使用与项目新旧程度区分开来,且每个 AI 百分比都是下限。

11月11日周三
  1. inclusionAI Models40

    inclusionAI 发布 ZoomGain-9B 和 ZoomGain-4B 模型,附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 ZoomGain-9B 和 ZoomGain-4B 视觉语言模型检查点,以及 ZoomGainBench 评估基准和 ZoomGain RL 训练数据。ZoomGain 挖掘从全局到放大的感知差距,以构建细粒度视觉监督,ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。ZoomGainBench 包含覆盖 941 张图像的 1,000 个问题,而 RL 数据集包含 9,000 条训练记录和 7,713 张源图像。

  2. inclusionAI Models38

    inclusionAI 发布 ZoomGain-4B 和 ZoomGain-9B,并附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 arXiv 论文、ZoomGainBench 评估基准、RL 训练数据集以及 ZoomGain-4B/ZoomGain-9B 模型检查点。28 个模型中表现最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多个细粒度和通用感知基准上达到了更优性能。ZoomGain 挖掘从全局到放大的感知差距,为视觉语言模型构建细粒度视觉监督。

11月9日周一
  1. Hugging Face Blog38

    NVIDIA 与 Elith 发布 Nemotron-Personas-Finance-Japan 合成数据集

    Elith 与 NVIDIA 发布了 Nemotron-Personas-Finance-Japan,这是一个基于官方政府统计数据构建的日本金融行业开放合成人物数据集。它包含 50 个领域的 900 万个人物(100 万条记录 × 9 个人物)和约 15 亿个 token,使用 NeMo SDG-PGMs 和 NeMo Data Designer 生成,并以 CC BY 4.0 许可提供,可用于商业用途。

  2. Hugging Face Blog40

    HOPE:混合专家语言模型中专家的高阶剪枝

    研究人员提出 HOPE,一种针对混合专家语言模型的二阶专家剪枝方法,该方法考虑共同激活专家之间的成对交互,而非独立地对每个专家评分。在 50% 剪枝率下,HOPE 取得了所有方法中最佳的平均排名,在智能体编程任务上相比次优剪枝方法最高提升 +6.1%。该工作针对 Qwen3.5-122B 等模型的内存瓶颈,其中专家 MLP 占据了约 250 GB 占用空间的 95%。

  3. inclusionAI Repositories38

    ZoomGain:挖掘全局到缩放感知差距,用于细粒度视觉监督

    ZoomGain 利用只有放大后才能看清的视觉细节,针对整张图像构建问题,并将这种全局到缩放的感知差距用作视觉语言模型的监督信号。发布内容包括 arXiv 论文、ZoomGainBench 基准(1,000 个问题,覆盖 941 张图像,涉及属性识别、计数和 OCR)、基于 7,713 张源图像的 9,000 条强化学习训练记录,以及 ZoomGain-4B 和 ZoomGain-9B 检查点。28 个模型中最佳者在 ZoomGainBench 上得分 61.08,而 ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。

11月6日周五
  1. Hugging Face Blog58

    Ai2 发布 ToyBlocks:一个用于机器人学习的开放模拟积木操作世界

    Ai2 发布了 ToyBlocks,这是一个围绕机械臂和桌面上的积木构建的开放模拟框架,是 FoundationWorlds 系列中首个用于受控机器人学习与评估的世界。该框架在 Isaac Lab 中通过强化学习和运动规划自动生成技能与演示,在单块 GPU 上可达最高 24 倍实时速度,并附带 85,336 条长时程演示,覆盖近 1,600 小时和 1.44 亿帧。在其实验中,ManiFlow 的原子技能成功率在模拟中为 80.0%,在真实 Franka FR3 上为 81.1%;而 Molmo 2 加 ManiFlow 系统在模拟和真实场景中的回合成功率分别为 55.5% 和 50.0%。

  2. Ai2 · Allen Institute for AI58

    Ai2 发布 ToyBlocks:一个用于机器人学习与评估的可控模拟世界

    Ai2 发布了 ToyBlocks,这是一个围绕机械臂和桌面方块构建的开放模拟框架,作为其 FoundationWorlds 中首个用于可控机器人学习研究的项目。ToyBlocks 在 Isaac Lab 中通过强化学习和运动规划自动生成任务与演示,在单块 GPU 上数据生成速度最高可达实时的 24 倍,并附带 85,336 条长时程演示,覆盖近 1,600 小时和 1.44 亿帧。在 Franka FR3 上的真实世界测试中,ManiFlow 的原子技能成功率在模拟中为 80.0%,在硬件上为 81.1%;而 Molmo 2 加 ManiFlow 系统在模拟和真实回合中的成功率分别为 55.5% 和 50.0%。

  3. vLLM Blog77

    REINFORCE Zero:内核对齐使异步强化学习在策略滞后64时保持稳定,并扩展至DeepSeek-V4.1和Kimi K3.1

    NVIDIA Research与Inferact的REINFORCE Zero论文表明,对齐rollout与训练器内核后,未裁剪的token级重要性采样能够纠正剩余的权重滞后,在策略滞后64时稳定训练20,000次更新,并在内核对齐的情况下达到同步训练训练步吞吐量的2.40倍。使用标准内核时,整个运行过程中rollout到学习器的KL中位数上升83.33倍,在线AIME24 pass@1从34.27%降至13.96%,而序列门控虽能稳定训练,但在最后1,000次更新时拒绝了24.48%的序列。零失配设置现已覆盖DeepSeek-V4.1-Flash、发布当日的Kimi K3.1,以及AMD MI355X上的DeepSeek-V4-Flash和Kimi K3.1,代码位于Inferact/zero-mismatch-rl和NVIDIA-NeMo/labs-molt。

    推荐理由:NVIDIA Research与Inferact将异步强化学习的rollout-学习器差距拆分为权重滞后和内核失配,表明对齐内核可使未裁剪的重要性采样在策略滞后64时保持稳定训练。

11月5日周四
  1. Zyphra Research36

    ZYFA:在 AMD MI355X 上快速且准确的 FP8 注意力内核

    Zyphra Research 发布了 ZYFA,这是面向 AMD MI355X(CDNA4,gfx950)的 BF16 和 FP8 因果预填充注意力内核,支持头维度 128 以及 DeepSeek-V2 的 MLA 形状。在 16K token 下,使用 Mistral-7B、Qwen3-8B 和 DeepSeek-V2-Lite 的激活值,ZYFA 的 FP8 内核吞吐量达到 AITER 的 1.16–1.76 倍;在 32K token 下的高斯输入上,头维度 128 时达到 1.26–1.37 倍,MLA 形状下达到 1.99 倍。在头维度 128 时,FP8 误差比 AITER 低 62–78%。

  2. Google Research47

    Google Research 的 Agile Deliberation 帮助人类定义主观性 AI 类别

    Google Research 推出了 Agile Deliberation,这是一个将主观性 AI 分类器创建转化为迭代式对话的框架,AI 在其中帮助用户厘清自己的定义。该框架将任务拆分为概念范围界定和概念迭代,利用视觉语言模型找出边界图像,并将反馈接入自动提示优化循环。在 18 场时长 1.5 小时的实时用户会话中,该方法减轻了用户的疲劳与焦虑,并产出了更一致的模型,其表现优于标准基线;代码已在 GitHub 上开源。

10月29日周四
  1. inclusionAI Repositories52

    Inclusion AI 的 IDM 将生成器 EMA 特征进行匹配,以加速一步和两步文本到图像生成

    Inclusion AI 与学术合作者发布了 IDM,这是一种蒸馏方法,将内部分布匹配与生成器自身 EMA 特征空间中的矩匹配相结合,无需外部特征编码器。在 2 NFE 下,IDM(Z-Image)在 LongText-CN 上得分 94.25%,在 LongText-EN 上得分 90.20%;全参数 IDM(Z-Image)在单张 A100 上以 BF16 运行,1 NFE 耗时 0.25 秒,2 NFE 耗时 0.30 秒。同一个训练好的检查点同时支持 1-NFE 和 2-NFE 采样,代码以 Apache 2.0 发布,检查点则标注为即将推出。

10月19日周一
  1. Sakana AI Blog55

    Sakana AI 提出 QD-Rec:一种将候选对象与 LLM 撰写的假设配对的质量-多样性推荐方法

    Sakana AI 开发了 QD-Rec,这是一种推荐方法,将候选对象加上解释为何选择它的假设作为推荐单元,并使用质量-多样性搜索来积累高质量、多样化的提议。在并购、客户定位和论文推荐实验中,QD-Rec 构建的档案平均得分更高、规模大于从头编写每个假设的基线,其代码已在 GitHub 上发布。论文报告了一些案例,其中某个假设对一家公司评分为 1 分(满分 10 分),经过变异并迁移到另一个候选对象后,得分提高到 5 分。

10月15日周四
  1. Goodfire Research62

    Goodfire研究文章认为神经网络本身已是清晰的,叠加现象被误读

    Goodfire研究员认为,神经网络中多义性和叠加现象的经典证据被误读了,看似随意的打包实际上主要是一种他称之为递归泛化的模式。用常规架构改进、不改变模型大小或训练数据重新训练InceptionV1后,其最后一层99-100%的神经元变得易于解释;对Qwen3-32B的初步审计估计约90%的神经元极点只有一个主要职责。文章结论是网络使用一种学习原理而非两种,因此可解释性可以直接研究神经元和电路,而不必先训练稀疏自编码器等分解模型。

    推荐理由:这是对该领域经典多义性证据的第一手重新解读,主张网络是递归泛化而非打包不相关的概念,这将使直接的机制性研究变得可行。

10月13日周二
  1. Amazon Science75

    Amazon Web Services 研究人员提出 priming,可将预训练 Transformer 转换为混合状态空间模型而无需完全重新训练

    Amazon Web Services 研究人员提出 priming,一种复用预训练 Transformer 权重的方法,可将混合状态空间架构的预训练成本降低 99% 以上,仅使用源模型预训练 token 预算的不到 0.5%。在受控比较中,Gated KalmaNet 优于 Gated DeltaNet 和 Mamba-2,而基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 表现相当,同时在 128,000 token 上下文下解码速度最高可达两倍。团队以 Apache 2.0 许可证发布了 8B 和 32B 的 primed 混合模型、训练代码、Triton 内核以及 vLLM 服务插件。

    推荐理由:Amazon Web Services 研究人员表明,复用预训练 Transformer 权重可将混合架构预训练成本降低 99% 以上,使状态空间层的受控比较变得可行。

9月1日周二
  1. Zyphra Research48

    Zyphra 发布 PUFFER:面向持续演进训练语料的增量模糊去重系统

    Zyphra 以 Apache 2.0 许可证开源发布了 PUFFER,这是一个具备来源感知能力的增量模糊去重系统,面向持续增长的 LLM 训练语料。相比现有基于 CPU 的去重方法,它实现了 11 倍至 35 倍的加速,单进程可在 1.75 小时内摄取 10 亿份文档,并已在超过 300 亿份文档上完成生产部署。PUFFER 维护一份驻留磁盘的 MinHash-LSH 历史记录,因此可以新增数据集、确定性地恢复中断的任务,并单独撤出某个数据集而无需重建整个语料索引。

7月29日周三
  1. Berkeley AI Research58

    从 CUDA 到 MLX:K-Search 将内核优化专长带到 Apple Silicon

    IBM Research 扩展了 K-Search——来自 UC Berkeley Sky Lab 的进化式内核搜索框架——为其增加了 MLX 后端和一个结构化的 CUDA 到 MLX 翻译层,可将现有 CUDA 内核适配为 Apple Silicon 内核。在一个 MLX 注意力内核上,该方法达到了 Apple 原生 MLX Attention 内核速度的 0.97 倍,而在没有翻译上下文时为 0.26 倍;在 M1 Max 上,一个进化出的 Mamba SSM 内核相比社区 mlx-lm 实现实现了最高 20 倍的 prefill 加速。作者将这一提升主要归因于提供给 LLM 的上下文和约束的质量,而非其编写 Metal 代码的能力,并表示该方法并非 MLX 专属。

7月1日周三
  1. Modal Blog58

    Modal Research 与 HeavyBall 的 MRP 将多 token 预测引入扩散语言模型

    Modal Research 与上海纽约大学的 HeavyBall Research 推出多 token 残差预测(MRP),这是一个附加在冻结扩散语言模型主干上的 3 层模块,预测步间 logit 残差而非完整的下一步分布。在 SDAR-4B GSM8K 上,MRP 在 K=3 时保持 70.9% 的准确率,而朴素 MTP 蒸馏仅为 5.9%;在 SGLang 中,推测模式下可实现最高 1.56 倍的无损吞吐提升,或在激进低阈值动态解码下最多恢复 +16 个准确率点。论文、代码、SGLang 实现以及 Hugging Face 上的 SDAR-MRP 模型均已发布。

4月29日周三
  1. Factory58

    Factory 对 13 个模型进行代码审查基准测试,发现 GPT-5.2 最佳、MiniMax M2.7 最便宜

    Factory 构建了一个开源基准测试,用来自 Sentry、Grafana、Keycloak、Discourse 和 Cal.com 的 50 个真实拉取请求测试 13 个模型,每个模型在高推理强度下对每个 PR 至少审查三次,并由 LLM 评审员根据人工整理的金标准集对发现进行评分。GPT-5.2 以 60.5% 的 F1 领先,每个 PR 成本 1.25 美元,领先于 Claude Opus 4.6 的 59.8% F1 和每个 PR 3.11 美元,而 MiniMax M2.7 以每个 PR 0.15 美元达到 45.6% F1,Kimi K2.5 以 0.41 美元达到 51.9% F1。Factory 表示成本仅解释约 21% 的质量差异,并开源了金标准集、评估脚本以及支持全部 13 个模型的 Droid Action GitHub Action。

3月13日周五
  1. Berkeley AI Research38

    伯克利AI研究推出SPEX与ProxySPEX,用于识别LLM大规模交互

    伯克利AI研究的研究人员介绍了SPEX和ProxySPEX,这两种算法能够在远超以往方法的规模上识别LLM中具有影响力的特征、数据和模型组件交互。SPEX将交互搜索重新表述为利用稀疏性和低度性的稀疏恢复,而ProxySPEX利用层次结构,以约10倍更少的消融实验匹配SPEX。在情感分析上,SPEX在短输入上与Faith-Shap和Faith-Banzhaf忠实度相当,并在上下文扩展到数千个特征时保持这一表现。