跳到正文
Hacker News · AI·· 29 分钟前AI 评分58

Project Chaperone:一个在 AI 智能体工作流运行前对其进行审计的规则执行框架

AI Agentic harness with explicit risk analysis

AI 导读

Applied Ingenuity 发布了 Project Chaperone,这是一个开源框架,允许智能体式 AI 调用工具,同时执行诸如禁止个人数据离开网络之类的高层策略。启动审计会检查所有工作流的每条路由是否存在规则违规,并要求人工批准限定范围的例外,这些例外按项目记录;运行时的执行则依赖 UNTRUSTED 和 PERSONAL 等数据标签以及 OUTPUT 和 LEAVES_NETWORK 等模块属性。该仓库附带五条共享默认规则和四个示例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag,且 LLM 是可选的。

来源:Hacker News · AI · github.com