Bài luận cảnh báo các tác nhân lập trình AI chạy ở Ring 0 mà không có kiểm tra
Bắt đầu từ đây
Một bài luận lập luận rằng các tác nhân lập trình như Claude Code, Codex CLI và Gemini CLI hoạt động với toàn quyền của nhà phát triển — thực chất là ở ring 0 — mà không có bất kỳ kiểm tra độc lập nào giữa đầu ra của mô hình và hành động hệ thống. Tác giả đề xuất một bộ giám sát tham chiếu, bộ này sẽ dàn xếp từng hiệu ứng trước khi nó xảy ra và kiểm soát mọi thay đổi dựa trên các quy tắc cố định thay vì dựa trên mô hình, để một giám sát viên tất định chứ không phải tác nhân quyết định điều gì được tiếp cận hệ thống. Đề xuất này chưa được kiểm chứng: bài luận phác thảo một nghiên cứu để xem liệu một giám sát viên tất định như vậy có bổ sung được gì so với các hệ thống hiện có hay không, nhưng nghiên cứu đó chưa được thực hiện. Tuyên bố rằng các tác nhân hiện tại thiếu kiểm tra độc lập là lập luận của tác giả, không phải là kết quả đã được chứng minh.
Tạo từ các bài viết · cập nhật 12 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AINhững biện pháp bảo vệ Ring-0 còn thiếu cho các tác nhân AI
Một bài luận lập luận rằng các tác nhân lập trình như Claude Code, Codex CLI và Gemini CLI hành động với toàn quyền của nhà phát triển, thực chất ở ring 0, mà không có kiểm tra độc lập nào giữa đầu ra của mô hình và hành động của hệ thống. Bài viết đề xuất một bộ giám sát tham chiếu, trước tiên tạm giữ các hiệu ứng rồi kiểm soát từng thay đổi dựa trên các quy tắc cố định thay vì một mô hình, đồng thời phác thảo một nghiên cứu chưa được thực hiện để kiểm tra liệu một bộ giám sát tất định như vậy có bổ sung được gì so với các hệ thống hiện có hay không.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.