跳到正文
热点事件持续更新

Applied Ingenuity 发布 Project Chaperone,用于审计 AI 智能体工作流

1 篇报道1 个报道来源21 分钟前更新

先了解这件事

AI 综述

Applied Ingenuity 发布了 Project Chaperone,这是一个开源 harness,可让智能体式 AI 在调用工具的同时执行高层策略,例如“任何个人数据都不得离开网络”。启动审计会检查所有工作流的每条路径是否存在规则违规,并要求人工批准限定范围的例外,这些例外按项目记录;随后运行时执行依赖 UNTRUSTED 和 PERSONAL 等数据标签,以及 OUTPUT 和 LEAVES_NETWORK 等模块属性。 该仓库附带五条共享默认规则和四个示例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag。LLM 是可选的:模块可以调用 LLM,状态也可以让 LLM 选择工作流中的下一个状态。除演示外,每种设置都要求用户自备 LLM、邮件或日历,邮件示例通过 IMAP 以只读方式读取收件箱,绝不更改、移动或发送邮件。

AI 根据报道生成 · 11 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. Hacker News · AI
    Project Chaperone:一个在 AI 智能体工作流运行前对其进行审计的规则执行框架

    Applied Ingenuity 发布了 Project Chaperone,这是一个开源框架,允许智能体式 AI 调用工具,同时执行诸如禁止个人数据离开网络之类的高层策略。启动审计会检查所有工作流的每条路由是否存在规则违规,并要求人工批准限定范围的例外,这些例外按项目记录;运行时的执行则依赖 UNTRUSTED 和 PERSONAL 等数据标签以及 OUTPUT 和 LEAVES_NETWORK 等模块属性。该仓库附带五条共享默认规则和四个示例,包括 deliveries、share_notes、ask_my_mail 和 safe_rag,且 LLM 是可选的。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。