บทความเตือนว่า AI Coding Agents ทำงานที่ Ring 0 โดยไม่มีกลไกตรวจสอบ

บทความหนึ่งโต้แย้งว่า coding agents อย่าง Claude Code, Codex CLI และ Gemini CLI ทำงานด้วยสิทธิ์เต็มของนักพัฒนา หรือเทียบได้กับ ring 0 โดยไม่มีกลไกตรวจสอบอิสระระหว่างผลลัพธ์ของโมเดลกับการกระทำของระบบ ผู้เขียนเสนอ reference monitor ที่จัดลำดับผลกระทบแต่ละอย่างก่อนจะเกิดขึ้นจริง และควบคุมทุกการเปลี่ยนแปลงด้วยกฎที่ตายตัวแทนที่จะพึ่งโมเดล เพื่อให้ผู้กำกับแบบดีเทอร์มินิสติกเป็นผู้ตัดสินว่าอะไรจะไปถึงระบบ แทนที่จะเป็น agent ข้อเสนอนี้ยังไม่ผ่านการทดสอบ: บทความร่างแผนการศึกษาว่าผู้กำกับแบบดีเทอร์มินิสติกเช่นนี้จะเพิ่มอะไรเหนือระบบที่มีอยู่หรือไม่ แต่ยังไม่ได้ดำเนินการศึกษา ข้อกล่าวอ้างว่า agent ในปัจจุบันขาดกลไกตรวจสอบอิสระเป็นข้อโต้แย้งของผู้เขียน ไม่ใช่ผลลัพธ์ที่พิสูจน์แล้ว

สร้างจากรายงาน · อัปเดต 12 นาทีที่แล้ว

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม