跳至正文
Hacker News · AI·· 29 分鐘前AI 評分58

Project Chaperone:在 AI 代理工作流程執行前進行稽核的規則強制執行框架

AI Agentic harness with explicit risk analysis

AI 導讀

Applied Ingenuity 發布了 Project Chaperone,這是一個開源框架,讓代理式 AI 在呼叫工具的同時強制執行高階政策,例如禁止個人資料離開網路。啟動稽核會檢查所有工作流程的每一條路由是否違反規則,並要求人工核准限定範圍的例外,這些例外會按專案記錄;執行階段的強制執行則依賴 UNTRUSTED 和 PERSONAL 等資料標籤,以及 OUTPUT 和 LEAVES_NETWORK 等模組屬性。該儲存庫附帶五條共用預設規則和四個範例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag,且 LLM 為選用。

來源:Hacker News · AI · github.com