Google 在五個公開基準上測試 Agent Anomaly Detection

Google 公布了其 Agent Anomaly Detection 功能的測試結果，該功能目前處於 Gemini Enterprise Agent Platform 上的 Private Preview 階段，並針對五個並非由 Google 撰寫的公開代理安全基準進行了測試。在 1,774 個工作階段中，它標記出代理實際執行的有害指令中的 87%，對 2% 至 16% 的良性工作階段發出誤報，並且在 18 個因長期記憶被投毒而驅使代理採取行動的工作階段中，僅捕捉到 4 個。 測試使用了一個以 Agent Development Kit 在 gemini-2.5-flash 上建構的代理，涵蓋 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。Google 表示，該功能不會封鎖動作，且由於測試僅使用一個模型和模擬應用程式，其良性任務可能比生產流量更簡單，客戶的誤報率可能有所不同。使用權限需透過 Agent Anomaly Detection 概覽提出申請。

AI 依報導生成 · 16 小時前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。