Mutagenic Labs เรียกร้องให้ใช้ความปลอดภัยแบบยึดความสามารถสำหรับ AI Agents
เริ่มตรงนี้
Mutagenic Labs ให้เหตุผลว่า AI agents ควรทำงานภายใต้ความปลอดภัยแบบยึดความสามารถ แทนที่จะสืบทอดอำนาจแวดล้อมเต็มรูปแบบของผู้ใช้ ภายใต้ข้อเสนอของบริษัท agent แต่ละตัวจะเริ่มต้นโดยไม่มีสิทธิ์ใด ๆ และได้รับเพียงการอนุญาตแบบแคบ เฉพาะประเภท และเพิกถอนได้ สำหรับการกระทำที่งานของมันต้องการเท่านั้น ซึ่งบริษัทกล่าวว่าจะจำกัดขอบเขตความเสียหายจาก prompt injection และความล้มเหลวแบบ confused-deputy Mutagenic Labs ยืนยันว่าวินัยนี้ต้องถูกบังคับใช้ที่ชั้น OS โดยให้เหตุผลว่าระบบความสามารถที่นำไปใช้ภายในกรอบงานของ agent ยังคงเป็นเพียงเรื่องสมมติเชิงสุภาพ บทความนี้เป็นการโต้แย้งเพื่อสนับสนุนแนวทางดังกล่าว มากกว่าจะเป็นรายงานเกี่ยวกับระบบที่ติดตั้งใช้งานจริงหรือผลลัพธ์ที่วัดได้
สร้างจากรายงาน · อัปเดต 7 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIความปลอดภัยแบบอิงความสามารถสำหรับเอเจนต์ AI
Mutagenic Labs ให้เหตุผลว่าเอเจนต์ AI ควรทำงานภายใต้ความปลอดภัยแบบอิงความสามารถ แทนที่จะสืบทอดอำนาจแวดล้อมทั้งหมดของผู้ใช้ เอเจนต์แต่ละตัวจะเริ่มต้นโดยไม่มีสิทธิ์ใด ๆ และได้รับการอนุญาตแบบแคบ มีชนิด และเพิกถอนได้ สำหรับการกระทำที่งานของมันต้องการอย่างแม่นยำ ซึ่งจำกัดขอบเขตความเสียหายจาก prompt injection และความล้มเหลวแบบ confused-deputy บทความโต้แย้งว่าวินัยนี้ต้องถูกบังคับใช้ที่ชั้น OS เนื่องจากระบบความสามารถที่ติดตั้งภายในเฟรมเวิร์กของเอเจนต์ยังคงเป็นเพียงเรื่องสมมติที่ดูดี
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 8
- จุดสูงสุดในช่วงที่เทียบได้
- 1018 พฤศจิกายน 01:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู