Google Developers Blog·· 2 天前AI 評分58
Google Agent Anomaly Detection 在五項公開代理安全基準測試中的評分
How Agent Anomaly Detection scores on benchmarks we didn't write
AI 導讀
Google 讓其 Agent Anomaly Detection(於 Gemini Enterprise Agent Platform 上進行 Private Preview)接受五項並非由 Google 撰寫的公開代理安全基準測試,共評分 1,774 個工作階段。它標記出代理實際執行之有有害指令中的 87%,對 2% 至 16% 的良性工作階段發出誤報,且在 18 個因長期記憶遭投毒而驅使代理採取行動的工作階段中,僅攔截到 4 個。測試使用以 Agent Development Kit(ADK)在 gemini-2.5-flash 上建構的代理,涵蓋 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 與 AgentHarm。
來源:Google Developers Blog · developers.googleblog.com