Hacker News · AI·· 3 小時前AI 評分58
稽核發現 AgentDojo 將 433 次執行評為無攻擊,儘管代理已執行攻擊者的動作
Did the attack work? Auditing AI-agent security benchmark verdicts
AI 導讀
2 它漏掉了 744 次中的 55 次。x 回覆它將評為受攻擊的結果當作警告。0 在 PyPI 上)用於稽核判定結果,在選定的模型上重新執行 AgentDojo 的發現,並封存證據以供離線校驗和驗證;該預印本未經同儕審查。
來源:Hacker News · AI · zenodo.org