跳到正文
11月13日周五
  1. Hacker News · AI58

    GitHub 上星标最多的 AI 工具中,有多少是由编码智能体编写的?

    对 GitHub 上 52 个星标最多的 AI 工具仓库的完整 git 历史(共 324,088 次提交)进行分析后发现,中位数仓库在其最后 180 天的活动中有 16.9% 的提交带有 AI 签名,52 个仓库中有 21 个达到 25% 或以上。星标数与 AI 签名占比之间未发现可检测的关联(Spearman ρ = -0.05,p = 0.72),且 36,892 次签名提交中有 85.3% 来自 Claude,其工具默认会添加 trailer。作者提醒,大量使用 AI 的情况集中在 2025 年或之后启动的项目中,因此样本无法将 AI 使用与项目新旧程度区分开来,且每个 AI 百分比都是下限。

  2. Hacker News · AI38

    基准测试发现:AI模型知晓WPS原则却无法应用

    Our Secure Future的WPS AI排行榜基准测试基于Collective Intelligence Project的Weval平台构建,发现大语言模型在和平与安全分析中系统性地遗漏性别维度,尽管它们能够背诵联合国安理会第1325号决议。WPS能力差距表现为被动遗漏——模型在常规评估中将妇女和女童排除在外——以及主动屈服——模型帮助决策者绕开政策。

  3. Hacker News · AI58

    Westphalia Labs 测试 11 个 AI 模型主持一场虚构的七国政府谈判

    Westphalia Labs 是一家由前外交官创立的评估机构,它让 11 个 AI 模型担任一场虚构的七国政府谈判的主持人,每个模型在可行版和不可行版上各运行 40 次。只有 GPT-6.1 Sol 通过了每一次运行,在可能达成协议时达成协议,在不可能时宣布共识不可能;Claude Opus 5.5、Grok 4.7 和低成本的 DeepSeek V4.1 Flash 每次都正确判断出不可行版,并在 20 次可行运行中的 18 次达成一致。过度施压导致 39 次运行失败,而让步不足导致 13 次失败;在 110 个案例中,有 72 个在给出可能的预测后达成了协议。

  4. The Verge · AI58

    研究发现ChatGPT、Gemini和Perplexity推荐虚假零售网站

    知识产权保护公司Podqi的一项研究发现,ChatGPT、Gemini和Perplexity在回答关于151个品牌的购物问题时,均引用或展示了高风险零售网站,此类网站被定义为虚假店面、重新注册的旧品牌域名或已失效的站点。在9月两个测试时段收集的6,795条回答中,Perplexity在15%的回答中呈现了高风险网站,ChatGPT为8%,Gemini为4%;而ChatGPT在24%的情况下对其呈现的高风险网站发出了警告。关于较小品牌的查询产生高风险网站的频率约为较大品牌的两倍,涉及区域品牌网站的提示更频繁地触发此类网站,Perplexity曾将错误的页面称为Stüssy的官方网站。

11月12日周四
  1. Epoch AI · Gradient Updates64

    Epoch 简报:GLM 5.3 可依据补丁缺口自主构建 Firefox 漏洞利用,每个成本约 1,000 美元

    Epoch AI 研究人员报告称,在离线沙箱实验中,开放权重模型 GLM 5.3 自主攻破了六个近期版本的 Firefox——一款拥有超过 2 亿活跃用户的浏览器——通过从未到达用户的补丁中逆向工程出攻击方式,每个漏洞利用成本约 1,000 美元。该模型构建的网页能够在无需人工输入的情况下读取访客计算机上的文件并将其发送给攻击者;团队无法用 Chrome 复现这一结果。同一份简报还指出,11 月 9 日发布的 Anthropic Claude Fable 5.2 创下 Epoch Capabilities Index 新纪录 174,高于 GPT-6 Astra 的 169。

11月11日周三
  1. inclusionAI Models40

    inclusionAI 发布 ZoomGain-9B 和 ZoomGain-4B 模型,附带 ZoomGainBench 与 RL 训练数据

    inclusionAI 发布了 ZoomGain-9B 和 ZoomGain-4B 视觉语言模型检查点,以及 ZoomGainBench 评估基准和 ZoomGain RL 训练数据。ZoomGain 挖掘从全局到放大的感知差距,以构建细粒度视觉监督,ZoomGain-9B 在多个细粒度和通用感知基准上取得了更优表现。ZoomGainBench 包含覆盖 941 张图像的 1,000 个问题,而 RL 数据集包含 9,000 条训练记录和 7,713 张源图像。

11月10日周二
  1. Apple Machine Learning Research31

    Apple 研究评估 LLM 评判器用于个性化写作风格评估

    Apple 研究人员测试了 LLM 评判器在评估生成文本是否符合用户偏好写作风格方面的表现,使用四个 LLM 在三个长文本写作任务中生成文本,并将评判器标注与人类成对标签进行比较。评判器质量与 LLM 在 MMLU 上的通用能力仅呈弱相关(Pearson's ρ ≤ 0.2),且因写作任务和评估标准而异,成对比较比独立评分更一致。最强的 LLM 并未最可靠地复现人类评估,可能是由于对细微细节的敏感度被夸大。

11月9日周一
  1. Artificial Analysis Articles58

    Artificial Analysis 发布 Endpoint Accuracy Index v1.1,收紧长上下文置信区间并覆盖六个模型

    Artificial Analysis 推出 Endpoint Accuracy Index v1.1,收紧了 AA-LCR-25 的置信区间,并新增对 GLM-5.3 Flash 和 Muse Spark Open 的覆盖。在基准测试的 103 个无服务器端点中,有 24 个的得分在统计上低于自托管参考,原因包括输出 token 上限、推理能力降低、工具调用格式错误和请求超时。将 AA-LCR-25 提升至每题 25 次重复后,其平均 95% 置信区间从 ±4.7 点收窄至 ±2.6 点,而在两个版本下均评分的 45 个端点上,综合指数区间从 ±5.5 点收窄至 ±4.3 点。

11月8日周日
  1. Artificial Analysis Articles38

    Artificial Analysis Decision Index v2 发布,新增决策评分与私有基准

    Artificial Analysis 发布 Decision Index v2,该指数目前有 45% 基于私有数据集构建,高于 v1 的 25%。Nace AI 的 Drex Max v1.1 以 73 分在决策模型中略微领先,与 GLiDE v1.2 和 Mammoth 27B 的差距在 1 分以内。新的 Decision Score 同时奖励正确性和校准置信度,而 AA-Paperclip 和 AA-Symmetry 新增了私有文档与一致性测试。

11月6日周五
  1. SemiAnalysis75

    SemiAnalysis 在智能体推理场景下对 Google TPUv7 Ironwood 与 NVIDIA GPU 进行基准测试

    SemiAnalysis 在 InferenceX/AgentX 上发布了 Google TPUv7 Ironwood 在四个模型上的首批长上下文、多轮智能体推理结果,发现其在每美元性能上具有竞争力,在若干情况下达到最先进水平。在 FP8 精度下的 GLM-5.2 上,TPUv7 在 60 至 300 tok/s/user 区间内提供的每美元 token 数为 B200、B300 和 MI355X 的 1.2 倍至 2.7 倍,而 FP4 GPU 在 GLM-5.3 上仍然领先,因为 TPUv7 缺乏原生 FP4 支持,直到 2027 年第一季度推出的 TPUv8 才会具备。文章还认为,与 AMD 和 Google 相比,NVIDIA 的官僚作风拖慢了驱动和生态系统的贡献。

  2. Artificial Analysis Articles40

    VIALS-AA:通向科学图像推理的不同路径

    VIALS-AA 分析了 19 个模型如何对科学图像进行推理,对 9,177 次工具调用轨迹进行了分类。查看图像占调用量的 38.3%,图像准备或测量占 47.3%;而图像测量在 GPT-6 Astra (max) 和 GPT-6.1 Sol (max) 中仅占调用量的 5–6%,相比之下 Claude Opus 5.5 (max) 和 Claude Sonnet 5.5 (max) 为 25–27%。Gemini 3.8 Flash (high) 产生了该队列中 86.7% 的评论/空操作调用,且不同模型间的单任务成本相差近 100 倍。

11月3日周二
  1. Ai2 · Allen Institute for AI55

    Ai2 发布 StateBench,用于测试语言模型如何在长文档中追踪状态变化

    Ai2 推出了 StateBench,这是一个具有四个难度级别的长上下文状态追踪基准,涵盖从不可变赋值到自引用和交叉引用更新。在测试中,Gemini 3.8 Flash、Claude Opus 5.5 以及 GPT-6 Sol 和 Luna 能够处理较简单的级别,但在最长的通用有限问题上降至 13% 或更低;而 275M 参数的 Gated DeltaNet 和从头训练的混合模型在前三个级别上几乎完美泛化,Transformer 则始终未能学会最难的级别。

  2. OpenAI Alignment Blog58

    OpenAI 研究智能体安全中的评估-生产行为差距及评估意识的作用

    OpenAI 研究人员测量了智能体安全中的评估-生产行为差距:在六个已部署模型中,Respecting Warnings 评估上的成功率比匹配的 Codex 生产决策低 10.2 至 37.4 个百分点,其中 GPT-5.6 Sol 和 GPT-6 Sol 的差距最大。仅一般评估意识与差距的关联较弱(R² = 0.008),而特定评估目标意识的关联更强(R² = 0.370),且最常口头表达错误目标(抵抗提示注入)的模型差距最大。在对 GPT-6.1 Sol 的干预中,通用评估提示几乎未改变成功率(63.1% 对 63.4%),正确目标提示将其提升至 91.6%,错误目标提示将其降至 17.6%。

11月2日周一
  1. Import AI42

    Import AI 479:Spacewar、低延迟任务与LLM的对比、Genie 4

    Import AI 479 介绍了 Realtime-Bench,这是一个包含 50 项任务的基准测试,由 UT Austin、Ohio State、UIUC、NVIDIA、Northwestern 和 Steadyworks 的研究人员构建,包含 30 项网页任务和 20 项游戏任务,用于测试前沿模型能否在实时压力下行动。GPT-6 Astra(high)取得了最高的实际耗时通过率,为 36%,而在暂停计时的运行中,高推理模型可达到约 70% 至 80%。本期还涵盖了国防情报局的《太空安全挑战》报告以及 Genie 4。

  2. SemiAnalysis58

    SemiAnalysis 发布 GDPx 基准,用于评估高价值领域的前沿智能体能力

    SemiAnalysis 发布了 GDPx,这是一个覆盖芯片设计、网络安全、生物学、金融、法律、量化交易、RSI、硬件设计、材料科学、对齐和软件工程的基准,由 14 个专业 RL 环境合作伙伴共同构建。即便是最好的模型也仅得分 12%,其中 Opus 5.5 在量化交易、硬件和芯片设计上胜出,Gemini 4 Carbon 在生物学和软件工程上领先,GPT-6 Astra 在 RSI 和材料科学上居首。每项任务都在逼真的模拟环境中运行,例如约 4,000 个文件的私募股权交易室或实时多服务网络靶场,这与 OpenAI 的 GDPval 不同——SemiAnalysis 认为后者把上下文喂到嘴边且缺乏环境。

10月30日周五
  1. Microsoft Research40

    微软构建合成企业数据平台以评估 Copilot

    微软的行业评估数据生成平台创建了全规模的合成企业环境,以在不使用客户数据的情况下评估 Microsoft Copilot。该平台基于 O*NET 职业数据、招聘信息和 SEC 文件等公开来源,生成包含用户、会议、电子邮件和文档的真实租户,以及自动化查询管道和质量框架。微软表示,这为 Copilot 建立了首个标准化评估基线。

10月27日周二
  1. Ai2 · Allen Institute for AI58

    Ai2 研究测试 LLM 能否可靠判断研究想法的新颖性

    Ai2 发布了 Old Ideas, Novel Problems,这是一项研究和基准,用于测试 LLM 评估研究想法新颖性的可靠程度,同时发布了数据、代码以及用于构建新评估集的流水线。在包括 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6 在内的六个评审模型中,提示词的微小改动使 AI 生成想法上的准确率变化超过 50 个百分点,而一个简单的提示式 Claude Opus 4.6 基线以 2.59 美元的成本取得 0.854 的 macro-F1,相比之下 Idea Novelty Checker 以 30.66 美元取得 0.642,Sakana AI 的 AI Scientist 以 82.05 美元取得 0.772。

  2. Epoch AI · Gradient Updates58

    Epoch AI 用自家研究任务测试 AI,顶尖模型得分 65% 却全部未通过

    Epoch AI 将其早先自动化一名高级研究员工作的尝试扩展为 Epoch Automation Reports,用与人类员工相同的标准,在平面设计和研究规划等真实 Epoch 任务上评估 AI。1 和 GPT-6 Astra 在评分表上平均得分 65%,但 65% 的得分仍算任务失败,因为如果由人类提交,每一份都会被拒绝或退回修改。

10月24日周六
  1. Epoch AI · Gradient Updates42

    Epoch简报:AI工作自动化测试、SpireClimb基准与Gemini 4 Argon的前沿推进

    Epoch AI在11项真实的Epoch工作任务上测试了六款领先模型,发现没有一款能可靠达到其质量标准,Claude Fable 5.1与GPT-6 Astra大致并列领先。其新推出的SpireClimb基准显示,前沿模型在六个月内从在《杀戮尖塔》中苦苦挣扎,发展到能以超过90%的胜率通过基础难度对局,其中GPT-6 Astra达到98%。Gemini 4 Argon在Epoch能力指数上得分166,与Claude Fable 5.1并列,落后于得分169的Claude Opus 5.5和GPT-6 Astra。

10月21日周三
  1. OpenAI Alignment Blog28

    OpenAI 提出配对匹配与后控制指标,以扩展 g-mean² 的可监控性

    OpenAI 的 Alignment Blog 为 g-mean² 增加了两个指标,g-mean² 是其数据集级别的监控区分度度量。配对匹配指标仅在支持相关正例、负例或干预有效比较的任务实例上比较模型,而后控制整合指标模拟监控门控拒绝,并估计部署系统仍输出不良输出的概率。该文章还为干预评估推导出一个悲观下界。

10月20日周二
  1. AI as Normal Technology40

    普林斯顿论文梳理AI智能体评估的33个新兴趋势

    一个由普林斯顿牵头、斯坦福、英国AI安全研究所和布鲁金斯学会参与的小组发表了《AI智能体评估的新兴趋势》,综合了评估科学、研究议程和评估者生态系统中的33个趋势。论文认为智能体评估远比模型评估复杂,因为评估者必须审视整个轨迹而非最终结果,并指出ExploitBench基准上的某些智能体评估耗费了数万美元的额度。它呼吁扩大研究议程,涵盖能力、人机交互和制度影响,并为独立评估者提供更广泛的参与和资助。

10月12日周一
  1. Import AI38

    Import AI 476:创造力与RSI、比中国更差的开源权重模型,以及太空中的AI

    Import AI 476 介绍了一项新基准,显示前沿大语言模型在直觉视觉推理上仍落后于人类,GPT 6 Astra 的 pass@1 得分为 53.6,而人类基线为 93.1。文章还讨论了AI系统通过 TasteVal 基准在“研究品味”上的提升,并认为AI可能加速太空工业化并形成复利式的先发优势。

10月10日周六
  1. Epoch AI · Gradient Updates65

    Epoch AI 的 InnovationEval 发现,前沿智能体在自动化 AI 研发中仅达到 SDPO 增益的 15%

    6 Sol 和 Fable 5 各自独立重新发现了一种可与自蒸馏策略优化(SDPO)相媲美的新型后训练技术,并在无互联网访问的沙盒中分别获得 3,000 GPU 小时。6 Sol 的方法在很大程度上复制自先前工作,在调整训练速度较慢的因素后,达到了 SDPO 增益的 15%,而 Fable 5 的技术未能提升性能。

10月5日周一
  1. GitHub Blog · AI & ML58

    GitHub 发布 ReviewBench,一个用于 AI 代码审查的开放基准

    GitHub 发布了 ReviewBench,这是一个面向 AI 代码审查智能体的开放基准,基于 19 种语言的 219 个公开拉取请求构建,其语言和仓库规模分布参照 1.039 亿个 GitHub 拉取请求建模。黄金集从人类审查者、作者后续提交、静态分析和多个前沿 LLM 中提取发现,由 Claude Sonnet 5 按照已发布的评分标准评分,资深工程师独立重新标注了每一条发现,一致率为 96.6%。GitHub 表示,其对 Copilot 代码审查的离线评估预判了生产 A/B 测试的方向,其中已处理率上升 8.0%,召回率上升 13.6%,每次审查成本下降 8.0%。

8月5日周三
4月29日周三
  1. Factory58

    Factory 对 13 个模型进行代码审查基准测试,发现 GPT-5.2 最佳、MiniMax M2.7 最便宜

    Factory 构建了一个开源基准测试,用来自 Sentry、Grafana、Keycloak、Discourse 和 Cal.com 的 50 个真实拉取请求测试 13 个模型,每个模型在高推理强度下对每个 PR 至少审查三次,并由 LLM 评审员根据人工整理的金标准集对发现进行评分。GPT-5.2 以 60.5% 的 F1 领先,每个 PR 成本 1.25 美元,领先于 Claude Opus 4.6 的 59.8% F1 和每个 PR 3.11 美元,而 MiniMax M2.7 以每个 PR 0.15 美元达到 45.6% F1,Kimi K2.5 以 0.41 美元达到 51.9% F1。Factory 表示成本仅解释约 21% 的质量差异,并开源了金标准集、评估脚本以及支持全部 13 个模型的 Droid Action GitHub Action。