Bài viết lập luận rằng quyền của agent không tự động kết hợp qua các lần bàn giao
Bắt đầu từ đây
Một bài viết mới lập luận rằng quyền công cụ của AI agent không tự động kết hợp qua các lần bàn giao. Trong ví dụ của bài, một agent Writer, một agent Reader chỉ đọc và một agent Sender chỉ gửi email đều nằm trong quyền hạn riêng của mình, vậy mà dữ liệu khách hàng riêng tư vẫn đến được tay kẻ tấn công. Bài viết gọi các ràng buộc hành vi phải tồn tại qua những lần bàn giao này là "transitive policies" và cho rằng chúng cần phần mềm runtime đáng tin cậy nằm ngoài các mô hình để trung gian hóa truy cập dữ liệu, tin nhắn, lệnh gọi công cụ và các hành động bên ngoài. Khẳng định này là lập luận của tác giả, không phải một giải pháp đã được chứng minh: bài viết không báo cáo một hệ thống đã triển khai nào thực thi transitive policies hay kết quả đo lường từ một hệ thống như vậy.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIChính sách bắc cầu cho agent: Quyền của agent không tự động kết hợp
Quyền truy cập công cụ của agent không kết hợp được qua các lần bàn giao: một agent Writer, một agent Reader chỉ đọc và một agent Sender chỉ gửi email có thể mỗi bên vẫn nằm trong quyền hạn riêng của mình trong khi dữ liệu khách hàng riêng tư vẫn đến được kẻ tấn công. Bài viết gọi các ràng buộc hành vi phải tồn tại qua những lần bàn giao này là "chính sách bắc cầu" và lập luận rằng chúng đòi hỏi phần mềm runtime đáng tin cậy nằm ngoài các mô hình để trung gian truy cập dữ liệu, tin nhắn, lệnh gọi công cụ và các hành động bên ngoài.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.