微软研究人员描述Lazarus：一种重编程AI智能体中休眠神经元后门的攻击
微软研究人员描述了一种名为Lazarus的后门技术，该技术通过重编程大语言模型中不到10个休眠神经元，使基于该模型构建的智能体在出现隐藏触发条件时执行攻击者指令，且无需重新训练。被修改的模型仍能通过标准评估，在触发前表现正常，触发条件可以简单到只是日期变更，随后智能体会以被授予的权限运行下载的代码。作者表示，检测需要与原始权重进行差异比对，而Microsoft Foundry已将开放权重模型与其发布者绑定并扫描其容器，同时红队测试框架、基于智能体的权重扫描以及具有防篡改来源证明的签名模型正在开发中。
推荐理由：微软研究人员表明，重编程不到10个休眠神经元即可在无需重新训练的情况下对大语言模型智能体植入后门，这使得权重来源与完整性成为一项实际的安全要求。