跳至正文
Hacker News · AI·· 9 小時前AI 評分60

AI 安全工程:新型攻擊手法利用的仍是舊有缺失

AI security engineering: the same failures, but new ways to attack

AI 導讀

一篇回顧一年來公開 AI 安全事件的評論指出,代理程式驅動的攻擊之所以得逞,主要靠的是長久以來已知的弱點,例如權限過寬、共用憑證,以及備份就落在受影響範圍內。文章逐一檢視多起案例,包括 OpenAI 與 Hugging Face 的沙箱逃逸、PocketOS 資料庫遭刪除,以及 Replit 程式碼凍結遭抹除,接著概述開源攻擊性代理程式框架,並引用美國職缺資料顯示 AI 安全工程師職位較去年同期增加約 268%,達到約 2,400 個。

來源:Hacker News · AI · zimmergren.net