跳到正文
11月11日周三
  1. Microsoft Research75

    微软研究人员描述Lazarus:一种重编程AI智能体中休眠神经元后门的攻击

    微软研究人员描述了一种名为Lazarus的后门技术,该技术通过重编程大语言模型中不到10个休眠神经元,使基于该模型构建的智能体在出现隐藏触发条件时执行攻击者指令,且无需重新训练。被修改的模型仍能通过标准评估,在触发前表现正常,触发条件可以简单到只是日期变更,随后智能体会以被授予的权限运行下载的代码。作者表示,检测需要与原始权重进行差异比对,而Microsoft Foundry已将开放权重模型与其发布者绑定并扫描其容器,同时红队测试框架、基于智能体的权重扫描以及具有防篡改来源证明的签名模型正在开发中。

    推荐理由:微软研究人员表明,重编程不到10个休眠神经元即可在无需重新训练的情况下对大语言模型智能体植入后门,这使得权重来源与完整性成为一项实际的安全要求。

11月6日周五
  1. Microsoft Research58

    微软研究院的 PDD Kit 对智能体编写的全栈 Web 应用进行形式化验证

    微软研究院推出了 PDD Kit,这是一个研究原型,可将开发者的自然语言意图转化为 Verus 形式化规范,证明编码智能体生成的 Rust 代码对任意输入均满足该规范,并在证明无法覆盖之处回退到测试。在 GitHub Next 的 Chopin 中进行的一次演示中,团队使用 PDD Kit 验证了 Pet Store 的登录逻辑——这是一个约 5,000 行的 Rust 全栈应用——开发者审查的是意图产物,而非逐行审查生成的代码。PDD Kit 目前仅能验证 Rust,其保证依赖于六个经开发者批准的可信组件,包括 bcrypt 密码校验和两次数据库查询。

10月30日周五
  1. Microsoft Research40

    微软构建合成企业数据平台以评估 Copilot

    微软的行业评估数据生成平台创建了全规模的合成企业环境,以在不使用客户数据的情况下评估 Microsoft Copilot。该平台基于 O*NET 职业数据、招聘信息和 SEC 文件等公开来源,生成包含用户、会议、电子邮件和文档的真实租户,以及自动化查询管道和质量框架。微软表示,这为 Copilot 建立了首个标准化评估基线。

10月22日周四
  1. Microsoft Research64

    微软研究院与合著者证明了31年历史的KLS猜想

    微软研究员张新智(Xinzhi Zhang)与一位合著者证明了Kannan-Lovász-Simonovits(KLS)猜想——一个悬而未决31年的高维几何开放问题,表明该界可由一个与维度无关的通用常数成立。该证明源自一个人工引导的智能体过程:AI智能体探索了100多种候选方法,研究人员则对搜索进行剪枝和重新引导;而在相当token预算下用领先模型进行的另一次无引导尝试未能成功。同日另有两篇证明出现,随后还发布了Lean 4形式化。

    推荐理由:一个悬而未决31年的高维几何开放问题,通过人工引导的智能体搜索在大约100种候选方法中得到解决,并以独立证明和Lean形式化作为确认。

10月5日周一
  1. GitHub Blog · AI & ML58

    GitHub 发布 ReviewBench,一个用于 AI 代码审查的开放基准

    GitHub 发布了 ReviewBench,这是一个面向 AI 代码审查智能体的开放基准,基于 19 种语言的 219 个公开拉取请求构建,其语言和仓库规模分布参照 1.039 亿个 GitHub 拉取请求建模。黄金集从人类审查者、作者后续提交、静态分析和多个前沿 LLM 中提取发现,由 Claude Sonnet 5 按照已发布的评分标准评分,资深工程师独立重新标注了每一条发现,一致率为 96.6%。GitHub 表示,其对 Copilot 代码审查的离线评估预判了生产 A/B 测试的方向,其中已处理率上升 8.0%,召回率上升 13.6%,每次审查成本下降 8.0%。