Hacker News · AI·· 8 giờ trướcĐiểm AI42
Bảo mật dựa trên năng lực cho các tác nhân AI
Capability-Based Security for AI Agents
Tóm tắt bằng AI
Mutagenic Labs lập luận rằng các tác nhân AI nên chạy dưới cơ chế bảo mật dựa trên năng lực thay vì kế thừa toàn bộ quyền hạn môi trường của người dùng. Mỗi tác nhân sẽ khởi đầu không có quyền nào và chỉ nhận được các cấp quyền hẹp, có kiểu, có thể thu hồi cho đúng những hành động mà nhiệm vụ của nó yêu cầu, qua đó giới hạn phạm vi ảnh hưởng của tấn công prompt injection và các lỗi confused-deputy. Bài viết cho rằng kỷ luật này phải được thực thi ở tầng hệ điều hành, vì các hệ thống năng lực được triển khai bên trong một framework tác nhân vẫn chỉ là một ảo tưởng lịch sự.
Nguồn:Hacker News · AI · magenticos.com