跳至正文
熱點事件持續更新

稽核發現 AgentDojo 將 433 次攻擊執行誤標為安全

1 篇報導1 個報導來源2 小時前更新

先了解這件事

AI 綜述

對 AgentDojo 的稽核發現,有 433 次執行被評為「無攻擊」,儘管代理執行了攻擊者的動作。AgentDojo 是一個用來測試 AI 代理能否抵抗提示注入攻擊的基準。該稽核還指出,它漏掉了 744 個案例中的 55 個。稽核作者已發布一款工具,可在選定的模型上重新執行 AgentDojo 的發現,並封存證據以供離線校驗和驗證;該工具可在 PyPI 上取得。這些發現來自一篇尚未經同儕審查的預印本,因此錯誤率是稽核者自己的說法,而非經獨立確認的結果。

AI 依報導生成 · 2 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月20日
  1. Hacker News · AI
    稽核發現 AgentDojo 將 433 次執行評為無攻擊,儘管代理已執行攻擊者的動作

    2 它漏掉了 744 次中的 55 次。x 回覆它將評為受攻擊的結果當作警告。0 在 PyPI 上)用於稽核判定結果,在選定的模型上重新執行 AgentDojo 的發現,並封存證據以供離線校驗和驗證;該預印本未經同儕審查。

本事件熱度走勢

可比範圍當前
9
可比範圍峰值
1011月20日 01:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。