跳至正文
11月11日星期三
  1. Microsoft Research75

    微軟研究人員描述 Lazarus:一種重新程式化 AI 代理中休眠神經元的後門

    微軟研究人員描述了 Lazarus,這是一種後門技術,可重新程式化 LLM 中不到 10 個休眠神經元,使建構於其上的代理在出現隱藏觸發條件時發出攻擊者指令,且無需重新訓練。修改後的模型仍能通過標準評估,並在觸發前表現正常,觸發條件可以簡單到只是日期變更,隨後代理便以其被賦予的任何權限執行下載的程式碼。作者表示,偵測需要與原始權重進行差異比對,而 Microsoft Foundry 已將開放權重模型與其發行商綁定並掃描其容器,同時紅隊測試框架、基於代理的權重掃描以及具備防篡改來源證明的簽署模型正在開發中。

    推薦理由:微軟研究人員展示,重新程式化不到 10 個休眠神經元即可在無需重新訓練的情況下對 LLM 代理植入後門,這使得權重來源與完整性成為實際的安全需求。

11月6日星期五
  1. Microsoft Research58

    微軟研究院的 PDD Kit 正式驗證代理撰寫的全端網頁應用程式

    微軟研究院推出 PDD Kit,這是一個研究原型,能將開發者的自然語言意圖轉換為 Verus 形式規格,證明編碼代理的 Rust 程式碼對所有輸入皆符合該規格,並在證明無法觸及之處退回測試。在 GitHub Next 的 Chopin 內部示範中,團隊使用 PDD Kit 驗證 Pet Store 的登入邏輯,這是一個約 5,000 行的 Rust 全端應用程式,開發者審查的是意圖產物,而非逐行檢視生成的程式碼。PDD Kit 目前僅驗證 Rust,其保證建立在六個經開發者核准的可信片段上,包括 bcrypt 密碼檢查與兩次資料庫查詢。

10月30日星期五
  1. Microsoft Research40

    微軟打造合成企業資料平台以評估 Copilot

    微軟的產業評估資料生成平台建立完整的合成企業環境,在不使用客戶資料的情況下評估 Microsoft Copilot。該平台以 O*NET 職業資料、職缺公告與 SEC 申報文件等公開來源為基礎,生成包含使用者、會議、電子郵件與文件的擬真租用戶,並搭配自動化查詢流程與品質框架。微軟表示,這為 Copilot 建立了首個標準化評估基準。

10月22日星期四
  1. Microsoft Research64

    微軟研究院與共同作者證明31年前的KLS猜想

    微軟研究員Xinzhi Zhang與一位共同作者證明了Kannan-Lovász-Simonovits(KLS)猜想,這是高維幾何中懸而未決31年的問題,證明其界線以一個與維度無關的通用常數成立。該證明源自一個由人類引導的代理式流程,其中AI代理探索了超過100種候選方法,而研究人員則進行篩選並重新引導搜尋;另一次以領先模型在相當token預算下進行的無引導嘗試則未能成功。同日另有兩項證明出現,隨後並發布了Lean 4形式化。

    推薦理由:高維幾何中懸而未決31年的問題,透過人類引導的代理式搜尋、探索約100種候選方法而獲得解決,並有獨立證明與Lean形式化作為確認。

10月5日星期一
  1. GitHub Blog · AI & ML58

    GitHub 發布 ReviewBench,一個用於 AI 程式碼審查的開放基準

    GitHub 發布了 ReviewBench,這是一個用於 AI 程式碼審查代理的開放基準,建構於橫跨 19 種語言的 219 個公開 pull request 之上,其語言與儲存庫規模分布仿照 1.039 億個 GitHub pull request 設計。黃金集彙整了人類審查者、作者後續提交、靜態分析以及多個前沿 LLM 的發現,並由 Claude Sonnet 5 依據已發布的評分標準進行評分,資深工程師則獨立重新標註了每一項發現,一致率達 96.6%。GitHub 表示,其對 Copilot 程式碼審查的離線評估預示了生產環境 A/B 測試的方向,其中已處理率上升 8.0%、召回率上升 13.6%,每次審查成本下降 8.0%。