ข้ามไปที่เนื้อหา
Hacker News · AI·· 8 ชม. ที่แล้วคะแนน AI42

ความปลอดภัยแบบอิงความสามารถสำหรับเอเจนต์ AI

Capability-Based Security for AI Agents

สรุปโดย AI

Mutagenic Labs ให้เหตุผลว่าเอเจนต์ AI ควรทำงานภายใต้ความปลอดภัยแบบอิงความสามารถ แทนที่จะสืบทอดอำนาจแวดล้อมทั้งหมดของผู้ใช้ เอเจนต์แต่ละตัวจะเริ่มต้นโดยไม่มีสิทธิ์ใด ๆ และได้รับการอนุญาตแบบแคบ มีชนิด และเพิกถอนได้ สำหรับการกระทำที่งานของมันต้องการอย่างแม่นยำ ซึ่งจำกัดขอบเขตความเสียหายจาก prompt injection และความล้มเหลวแบบ confused-deputy บทความโต้แย้งว่าวินัยนี้ต้องถูกบังคับใช้ที่ชั้น OS เนื่องจากระบบความสามารถที่ติดตั้งภายในเฟรมเวิร์กของเอเจนต์ยังคงเป็นเพียงเรื่องสมมติที่ดูดี

แหล่งข่าว:Hacker News · AI · magenticos.com