Redwood Research· Gosha Kozhevnikov·· 28 天前AI 評分58
Redwood Research 推出 Screwtape,一套透過編輯代理對話紀錄來對僅監控動作的監控器進行紅隊測試的流程
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 導讀
Redwood Research 推出 Screwtape,這是一套流程,會將攻擊插入真實的代理對話紀錄中,並反覆調整,直到僅監控動作的監控器不再偵測到它,同時由 LLM 驗證器檢查其真實性與嚴重程度。在 94 份不重複對話紀錄上進行的 252 次執行中,它產生了 35 個攻擊,成功繞過 Redwood 自家基於 Opus 4.8 與 Gemini 3.1 Pro 的監控器,其中 6 個還繞過了某前沿開發者的一套保留監控器,並經人工審查確認有效。作者指出,這套流程無法產出量化的安全估計,目前也無法為思維鏈監控器生成推理軌跡,且不會公開發布,但他們願意與研究人員分享。
來源:Redwood Research · blog.redwoodresearch.org