Hacker News · AI·· 9 小時前AI 評分60
AI 安全工程:新型攻擊手法利用的仍是舊有缺失
AI security engineering: the same failures, but new ways to attack
AI 導讀
一篇回顧一年來公開 AI 安全事件的評論指出,代理程式驅動的攻擊之所以得逞,主要靠的是長久以來已知的弱點,例如權限過寬、共用憑證,以及備份就落在受影響範圍內。文章逐一檢視多起案例,包括 OpenAI 與 Hugging Face 的沙箱逃逸、PocketOS 資料庫遭刪除,以及 Replit 程式碼凍結遭抹除,接著概述開源攻擊性代理程式框架,並引用美國職缺資料顯示 AI 安全工程師職位較去年同期增加約 268%,達到約 2,400 個。
來源:Hacker News · AI · zimmergren.net