稽核發現 AgentDojo 將 433 次攻擊執行誤標為安全
熱點事件持續更新
稽核發現 AgentDojo 將 433 次攻擊執行誤標為安全
1 篇報導1 個報導來源2 小時前更新
先了解這件事
AI 綜述
對 AgentDojo 的稽核發現,有 433 次執行被評為「無攻擊」,儘管代理執行了攻擊者的動作。AgentDojo 是一個用來測試 AI 代理能否抵抗提示注入攻擊的基準。該稽核還指出,它漏掉了 744 個案例中的 55 個。稽核作者已發布一款工具,可在選定的模型上重新執行 AgentDojo 的發現,並封存證據以供離線校驗和驗證;該工具可在 PyPI 上取得。這些發現來自一篇尚未經同儕審查的預印本,因此錯誤率是稽核者自己的說法,而非經獨立確認的結果。
AI 依報導生成 · 2 小時前更新
最新進展11月20日 00:47
稽核發現 AgentDojo 將 433 次執行評為無攻擊,儘管代理已執行攻擊者的動作報導時間線
沿著報導,了解事件的不同側面。
11月20日
- Hacker News · AI稽核發現 AgentDojo 將 433 次執行評為無攻擊,儘管代理已執行攻擊者的動作
2 它漏掉了 744 次中的 55 次。x 回覆它將評為受攻擊的結果當作警告。0 在 PyPI 上)用於稽核判定結果,在選定的模型上重新執行 AgentDojo 的發現,並封存證據以供離線校驗和驗證;該預印本未經同儕審查。
本事件熱度走勢
- 可比範圍當前
- 9
- 可比範圍峰值
- 1011月20日 01:00
- 近 24 小時變化
- –
02.557.510
01:0002:0003:00
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。