Hacker News · AI·· 9 小时前AI 评分60
AI 安全工程:新的攻击方法利用的仍是旧有的失效
AI security engineering: the same failures, but new ways to attack
AI 导读
一篇回顾一年来公开 AI 安全事件的综述认为,由智能体驱动的攻击之所以得手,主要靠的是一批早已为人所知的弱点,例如权限过宽、共享凭据,以及位于影响范围内的备份。文章逐一梳理了若干案例,包括 OpenAI 与 Hugging Face 的沙箱逃逸、PocketOS 数据库被删除以及 Replit 代码冻结导致的抹除,随后又综述了开源攻击性智能体框架,并引用了美国招聘数据:AI 安全工程师岗位同比增长约 268%,达到约 2,400 个。
来源:Hacker News · AI · zimmergren.net