Hacker News · AI·· 3 小时前AI 评分58
审计发现,AgentDojo 将 433 次运行评为无攻击,尽管智能体执行了攻击者的操作
Did the attack work? Auditing AI-agent security benchmark verdicts
AI 导读
它漏掉了 744 次中的 55 次。x 将其评为已受攻击的回复标记为警告。PyPI 上为 0)用于审计判定结果,在选定模型上重新运行 AgentDojo 的发现,并封存证据以供离线校验和验证;该预印本未经同行评审。
来源:Hacker News · AI · zenodo.org