Google Developers Blog·· 2 天前AI 评分58
Google Agent Anomaly Detection 在五个公开的 agent 安全基准上得分
How Agent Anomaly Detection scores on benchmarks we didn't write
AI 导读
Google 在 Gemini Enterprise Agent Platform 上以 Private Preview 形式运行了其 Agent Anomaly Detection,针对五个并非由它编写的公开 agent 安全基准进行测试,共评估了 1,774 个会话。它标记出了 agent 实际执行的有害指令中的 87%,对良性会话的误报率为 2% 到 16%,而在 18 个由被污染的长期记忆驱动 agent 行动的会话中仅捕获了 4 个。测试使用了一个基于 gemini-2.5-flash、用 Agent Development Kit (ADK) 构建的 agent,覆盖 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。
来源:Google Developers Blog · developers.googleblog.com