Tới nội dung
Sự việc nóngĐang diễn ra

Applied Ingenuity phát hành Project Chaperone để kiểm toán quy trình làm việc của tác nhân AI

1 bài viết1 nguồn đưa tinCập nhật 21 phút trước

Bắt đầu từ đây

Tóm tắt AI

Applied Ingenuity đã phát hành Project Chaperone, một bộ khung mã nguồn mở cho phép AI dạng tác nhân gọi công cụ trong khi thực thi các chính sách cấp cao như "không dữ liệu cá nhân nào được rời khỏi mạng." Một cuộc kiểm toán khởi động sẽ kiểm tra mọi tuyến của tất cả quy trình làm việc để tìm vi phạm quy tắc và yêu cầu con người phê duyệt các ngoại lệ có phạm vi, được ghi lại theo từng dự án; sau đó việc thực thi lúc chạy dựa vào các nhãn dữ liệu như UNTRUSTED và PERSONAL cùng các thuộc tính mô-đun như OUTPUT và LEAVES_NETWORK. Kho lưu trữ cung cấp năm quy tắc mặc định dùng chung và bốn ví dụ, gồm deliveries, share_notes, ask_my_mail và safe_rag. LLM là tùy chọn: một mô-đun có thể gọi một LLM, và một trạng thái có thể để LLM chọn trạng thái tiếp theo trong quy trình làm việc. Mọi thiết lập ngoại trừ bản demo đều yêu cầu người dùng tự cung cấp LLM, thư hoặc lịch của riêng họ, và ví dụ về thư đọc hộp thư đến qua IMAP ở chế độ chỉ đọc, không bao giờ thay đổi, di chuyển hay gửi tin nhắn.

Tạo từ các bài viết · cập nhật 11 phút trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

20 tháng 11
  1. Hacker News · AI
    Project Chaperone: một harness thực thi quy tắc, kiểm toán quy trình làm việc của AI agent trước khi chúng chạy

    Applied Ingenuity đã phát hành Project Chaperone, một harness mã nguồn mở cho phép AI dạng agent gọi công cụ trong khi thực thi các chính sách cấp cao như không để dữ liệu cá nhân rời khỏi mạng. Một cuộc kiểm toán khởi động sẽ kiểm tra mọi tuyến của tất cả quy trình làm việc để tìm vi phạm quy tắc và yêu cầu con người phê duyệt các ngoại lệ có phạm vi, được ghi lại theo từng dự án; việc thực thi lúc chạy sau đó dựa vào các nhãn dữ liệu như UNTRUSTED và PERSONAL cùng các thuộc tính mô-đun như OUTPUT và LEAVES_NETWORK. Kho lưu trữ cung cấp năm quy tắc mặc định dùng chung và bốn ví dụ, bao gồm deliveries, share_notes, ask_my_mail và safe_rag, và LLM là tùy chọn.

Độ nóng của sự việc này

Chưa đủ quan sát liên tục để vẽ xu hướng.