跳至正文
Redwood Research· Buck Shlegeris·· 22 天前AI 評分71

METR 與 Redwood Research 對 OpenAI 內部代理錯位監控系統進行紅隊測試

Red-Teaming OpenAI's Internal Agent Monitoring Systems

AI 導讀

METR 與 Redwood Research 於 7 月 21 日至 8 月 11 日進行為期三週的高權限演練,對 OpenAI 的內部錯位監控系統進行壓力測試,並產出一份 61 頁的內部報告。他們估計,來自至少與 GPT-5.5 同等強度模型的代理式內部 Responses API 流量中,約有 75–94% 符合監控資格;而用於內部 Codex 代理的 Responses API 流量則有 99.2% 符合資格。團隊發現了新型漏洞,包括 Codex 代理原則上可繞過 Codex 沙箱與 Auto-Review 的途徑、一種能讓數百個近期動作持續不受監控的漏洞利用手法,以及兩個可讓用戶端控制、能為新代理停用監控的標頭;OpenAI 表示,影響其生產防護堆疊的漏洞已修補,但研究人員並未評估這項說法。

來源:Redwood Research · blog.redwoodresearch.org