Applied Ingenuity 發布 Project Chaperone,用於稽核 AI 代理工作流程
先了解這件事
Applied Ingenuity 發布了 Project Chaperone,這是一套開源框架,讓具代理能力的 AI 在呼叫工具的同時,強制執行「個人資料不得離開網路」這類高階政策。啟動時的稽核會檢查所有工作流程的每一條路徑是否違反規則,並要求由人工核准範圍受限的例外,這些例外會按專案逐一記錄;執行階段的強制執行則依賴 UNTRUSTED、PERSONAL 等資料標籤,以及 OUTPUT、LEAVES_NETWORK 等模組屬性。 該儲存庫內建五條共用的預設規則與四個範例,包括 deliveries、share_notes、ask_my_mail 與 safe_rag。LLM 為選用項目:模組可以呼叫 LLM,狀態也可以讓 LLM 選擇工作流程中的下一個狀態。除示範之外,每一種設定都需要使用者自行提供 LLM、郵件或行事曆;郵件範例以 IMAP 唯讀方式讀取收件匣,絕不變更、移動或傳送任何郵件。
AI 依報導生成 · 11 分鐘前更新
報導時間線
沿著報導,了解事件的不同側面。
- Hacker News · AIProject Chaperone:在 AI 代理工作流程執行前進行稽核的規則強制執行框架
Applied Ingenuity 發布了 Project Chaperone,這是一個開源框架,讓代理式 AI 在呼叫工具的同時強制執行高階政策,例如禁止個人資料離開網路。啟動稽核會檢查所有工作流程的每一條路由是否違反規則,並要求人工核准限定範圍的例外,這些例外會按專案記錄;執行階段的強制執行則依賴 UNTRUSTED 和 PERSONAL 等資料標籤,以及 OUTPUT 和 LEAVES_NETWORK 等模組屬性。該儲存庫附帶五條共用預設規則和四個範例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag,且 LLM 為選用。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。