ข้ามไปที่เนื้อหา
Hacker News · AI·· 29 นาทีที่แล้วคะแนน AI36

การป้องกัน Ring-0 ที่ขาดหายไปสำหรับ AI Agents

The Missing Ring-0 Protections for AI Agents

สรุปโดย AI

บทความหนึ่งโต้แย้งว่า coding agents อย่าง Claude Code, Codex CLI และ Gemini CLI ทำงานด้วยอำนาจเต็มของนักพัฒนา เทียบเท่ากับอยู่ที่ ring 0 โดยไม่มีกลไกตรวจสอบอิสระระหว่างผลลัพธ์ของโมเดลกับการกระทำของระบบ บทความเสนอ reference monitor ที่จัดเก็บผลกระทบไว้ก่อนแล้วควบคุมแต่ละการเปลี่ยนแปลงด้วยกฎตายตัวแทนที่จะใช้โมเดล และร่างการศึกษาที่ยังไม่ได้ดำเนินการเพื่อทดสอบว่าผู้กำกับดูแลแบบ deterministic เช่นนี้เพิ่มอะไรให้กับระบบที่มีอยู่หรือไม่

แหล่งข่าว:Hacker News · AI · hwtn.io