Hacker News · AI·· 2 小时前AI 评分38
智能体的传递性策略:智能体权限不会自动组合
Transitive Policies for Agents: Agent Permissions Don't Automatically Compose
AI 导读
智能体工具权限不会在交接过程中自动组合:一个 Writer 智能体、一个只读的 Reader 智能体和一个仅能发邮件的 Sender 智能体,各自都可以不越出自己的权限,但私密的客户数据仍然会落到攻击者手中。文章把必须在这些交接中存活下来的行为约束称为“传递性策略”,并主张它们需要模型之外的可信运行时软件来中介数据访问、消息、工具调用和外部操作。
来源:Hacker News · AI · glthr.com