Mutagenic Labs kêu gọi áp dụng bảo mật dựa trên năng lực cho các tác nhân AI
Bắt đầu từ đây
Mutagenic Labs lập luận rằng các tác nhân AI nên chạy dưới cơ chế bảo mật dựa trên năng lực thay vì kế thừa toàn bộ quyền hạn môi trường của người dùng. Theo đề xuất của công ty, mỗi tác nhân sẽ khởi đầu mà không có quyền nào và chỉ nhận được các cấp quyền hẹp, có kiểu, có thể thu hồi, đúng với những hành động mà nhiệm vụ của nó yêu cầu; công ty cho rằng điều này sẽ giới hạn phạm vi ảnh hưởng của tấn công prompt injection và các lỗi confused-deputy. Mutagenic Labs cho rằng kỷ luật này phải được thực thi ở tầng hệ điều hành, lập luận rằng các hệ thống năng lực được triển khai bên trong một framework tác nhân vẫn chỉ là một hư cấu lịch sự. Bài viết là một lập luận ủng hộ cách tiếp cận này chứ không phải báo cáo về một hệ thống đã triển khai hay kết quả đo lường được.
Tạo từ các bài viết · cập nhật 7 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIBảo mật dựa trên năng lực cho các tác nhân AI
Mutagenic Labs lập luận rằng các tác nhân AI nên chạy dưới cơ chế bảo mật dựa trên năng lực thay vì kế thừa toàn bộ quyền hạn môi trường của người dùng. Mỗi tác nhân sẽ khởi đầu không có quyền nào và chỉ nhận được các cấp quyền hẹp, có kiểu, có thể thu hồi cho đúng những hành động mà nhiệm vụ của nó yêu cầu, qua đó giới hạn phạm vi ảnh hưởng của tấn công prompt injection và các lỗi confused-deputy. Bài viết cho rằng kỷ luật này phải được thực thi ở tầng hệ điều hành, vì các hệ thống năng lực được triển khai bên trong một framework tác nhân vẫn chỉ là một ảo tưởng lịch sự.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 8
- Đỉnh, trong khoảng so sánh được
- 1018 tháng 11 01:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.