微軟研究人員描述針對 AI 代理的 Lazarus 後門

微軟研究人員描述了一種他們稱為 Lazarus 的後門技術：重新編程大型語言模型中不到 10 個休眠神經元，就足以讓建構於其上的代理在隱藏觸發條件出現時發出攻擊者指令，且無需重新訓練。觸發條件可以平凡到只是日期變更——例如，一旦時鐘跨過午夜進入 2027 年，代理就會在執行任務途中發出指令，下載並執行攻擊者的程式碼。被修改的模型仍能通過標準評估，並在此之前表現正常，而代理會以被賦予的任何權限執行下載的程式碼。 研究人員表示，偵測需要將模型與其原始權重進行差異比對。微軟表示，對於來自受信任實驗室的模型，Foundry 客戶受到保護，免受此類攻擊，因為 Foundry 將開放權重模型與其發行商綁定，並掃描其容器；剩餘風險是受信任的提供者本身遭到入侵，例如透過其訓練基礎設施或內部人員。紅隊測試框架、基於代理的權重掃描，以及具有防篡改來源簽章的模型，正在開發中。

AI 依報導生成 · 1 天前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。