Google 在五个公开基准上测试 Agent Anomaly Detection
先了解这件事
Google 公布了其 Agent Anomaly Detection 功能的结果，该功能目前处于 Gemini Enterprise Agent Platform 上的 Private Preview 阶段，并针对五个并非由 Google 编写的公开 agent 安全基准进行了测试。在 1,774 个会话中，它标记出了 agent 实际执行的有害指令中的 87%，对 2% 至 16% 的良性会话发出了误报，并且仅在 18 个因被投毒的长期记忆驱使 agent 采取行动的会话中捕获了 4 个。 测试使用了一个基于 gemini-2.5-flash、用 Agent Development Kit 构建的 agent，覆盖了 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。Google 表示，该功能不会阻止操作，并且由于测试仅使用了一个模型以及带有良性任务的模拟应用（这些任务可能比生产流量更简单），客户的误报率可能会有所不同。访问该功能需要通过 Agent Anomaly Detection 概览提出申请。
AI 根据报道生成 · 16 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Google Developers BlogGoogle Agent Anomaly Detection 在五个公开的 agent 安全基准上得分
Google 在 Gemini Enterprise Agent Platform 上以 Private Preview 形式运行了其 Agent Anomaly Detection，针对五个并非由它编写的公开 agent 安全基准进行测试，共评估了 1,774 个会话。它标记出了 agent 实际执行的有害指令中的 87%，对良性会话的误报率为 2% 到 16%，而在 18 个由被污染的长期记忆驱动 agent 行动的会话中仅捕获了 4 个。测试使用了一个基于 gemini-2.5-flash、用 Agent Development Kit (ADK) 构建的 agent，覆盖 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。