Google thử nghiệm Agent Anomaly Detection trên năm benchmark công khai
Bắt đầu từ đây
Google đã công bố kết quả cho tính năng Agent Anomaly Detection, hiện đang ở giai đoạn Private Preview trên Gemini Enterprise Agent Platform, được thử nghiệm với năm benchmark bảo mật agent công khai do Google không tự viết. Trên 1.774 phiên, tính năng này đã gắn cờ 87% các chỉ dẫn độc hại mà agent thực sự thực thi, báo động nhầm trên 2% đến 16% các phiên lành tính, và chỉ phát hiện được 4 trong số 18 phiên mà bộ nhớ dài hạn bị đầu độc đã khiến agent hành động. Các thử nghiệm sử dụng một agent được xây dựng bằng Agent Development Kit trên gemini-2.5-flash và bao gồm AgentDojo, InjecAgent, Agent Security Bench, AgentDyn và AgentHarm. Google cho biết tính năng này không chặn các hành động, và vì việc thử nghiệm chỉ dùng một mô hình và các ứng dụng mô phỏng với các tác vụ lành tính có khả năng đơn giản hơn lưu lượng sản xuất, tỷ lệ báo động nhầm của khách hàng có thể khác. Để có quyền truy cập, cần yêu cầu thông qua trang tổng quan Agent Anomaly Detection.
Tạo từ các bài viết · cập nhật 15 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Google Developers BlogGoogle Agent Anomaly Detection đạt điểm trên năm bộ chuẩn an ninh tác nhân công khai
Google đã chạy Agent Anomaly Detection của mình, trong Private Preview trên Gemini Enterprise Agent Platform, đối chiếu với năm bộ chuẩn an ninh tác nhân công khai mà họ không tự viết, chấm điểm 1.774 phiên. Nó gắn cờ 87% các chỉ dẫn độc hại mà tác nhân thực sự thực thi, với báo động giả trên 2% đến 16% các phiên lành tính, và chỉ bắt được 4 trong 18 phiên nơi bộ nhớ dài hạn bị đầu độc khiến tác nhân hành động. Các bài kiểm tra sử dụng một tác nhân được xây dựng bằng Agent Development Kit (ADK) trên gemini-2.5-flash, bao gồm AgentDojo, InjecAgent, Agent Security Bench, AgentDyn và AgentHarm.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.