Hacker News · AI·· 8 小时前AI 评分42
面向AI智能体的基于能力的安全模型
Capability-Based Security for AI Agents
AI 导读
Mutagenic Labs 主张,AI 智能体应当在基于能力的安全模型下运行,而不是继承用户的全部环境权限。每个智能体一开始没有任何权限,只针对其任务所需的具体操作获得狭窄、带类型、可撤销的授权,从而限制提示注入和混淆代理故障的影响范围。文章认为,这一纪律必须在操作系统层强制执行,因为在智能体框架内部实现的能力系统仍然只是一种礼貌的虚构。
来源:Hacker News · AI · magenticos.com