Applied Ingenuity 发布 Project Chaperone,用于审计 AI 智能体工作流
热点事件持续更新
Applied Ingenuity 发布 Project Chaperone,用于审计 AI 智能体工作流
1 篇报道1 个报道来源21 分钟前更新
先了解这件事
AI 综述
Applied Ingenuity 发布了 Project Chaperone,这是一个开源 harness,可让智能体式 AI 在调用工具的同时执行高层策略,例如“任何个人数据都不得离开网络”。启动审计会检查所有工作流的每条路径是否存在规则违规,并要求人工批准限定范围的例外,这些例外按项目记录;随后运行时执行依赖 UNTRUSTED 和 PERSONAL 等数据标签,以及 OUTPUT 和 LEAVES_NETWORK 等模块属性。 该仓库附带五条共享默认规则和四个示例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag。LLM 是可选的:模块可以调用 LLM,状态也可以让 LLM 选择工作流中的下一个状态。除演示外,每种设置都要求用户自备 LLM、邮件或日历,邮件示例通过 IMAP 以只读方式读取收件箱,绝不更改、移动或发送邮件。
AI 根据报道生成 · 11 分钟前更新
最新进展11月20日 06:55
Project Chaperone:一个在 AI 智能体工作流运行前对其进行审计的规则执行框架报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- Hacker News · AIProject Chaperone:一个在 AI 智能体工作流运行前对其进行审计的规则执行框架
Applied Ingenuity 发布了 Project Chaperone,这是一个开源框架,允许智能体式 AI 调用工具,同时执行诸如禁止个人数据离开网络之类的高层策略。启动审计会检查所有工作流的每条路由是否存在规则违规,并要求人工批准限定范围的例外,这些例外按项目记录;运行时的执行则依赖 UNTRUSTED 和 PERSONAL 等数据标签以及 OUTPUT 和 LEAVES_NETWORK 等模块属性。该仓库附带五条共享默认规则和四个示例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag,且 LLM 是可选的。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。