Hacker News · AI·· 29 นาทีที่แล้วคะแนน AI36
การป้องกัน Ring-0 ที่ขาดหายไปสำหรับ AI Agents
The Missing Ring-0 Protections for AI Agents
สรุปโดย AI
บทความหนึ่งโต้แย้งว่า coding agents อย่าง Claude Code, Codex CLI และ Gemini CLI ทำงานด้วยอำนาจเต็มของนักพัฒนา เทียบเท่ากับอยู่ที่ ring 0 โดยไม่มีกลไกตรวจสอบอิสระระหว่างผลลัพธ์ของโมเดลกับการกระทำของระบบ บทความเสนอ reference monitor ที่จัดเก็บผลกระทบไว้ก่อนแล้วควบคุมแต่ละการเปลี่ยนแปลงด้วยกฎตายตัวแทนที่จะใช้โมเดล และร่างการศึกษาที่ยังไม่ได้ดำเนินการเพื่อทดสอบว่าผู้กำกับดูแลแบบ deterministic เช่นนี้เพิ่มอะไรให้กับระบบที่มีอยู่หรือไม่
แหล่งข่าว:Hacker News · AI · hwtn.io