Tới nội dung
Hacker News · AI·· 29 phút trướcĐiểm AI58

Project Chaperone: một harness thực thi quy tắc, kiểm toán quy trình làm việc của AI agent trước khi chúng chạy

AI Agentic harness with explicit risk analysis

Tóm tắt bằng AI

Applied Ingenuity đã phát hành Project Chaperone, một harness mã nguồn mở cho phép AI dạng agent gọi công cụ trong khi thực thi các chính sách cấp cao như không để dữ liệu cá nhân rời khỏi mạng. Một cuộc kiểm toán khởi động sẽ kiểm tra mọi tuyến của tất cả quy trình làm việc để tìm vi phạm quy tắc và yêu cầu con người phê duyệt các ngoại lệ có phạm vi, được ghi lại theo từng dự án; việc thực thi lúc chạy sau đó dựa vào các nhãn dữ liệu như UNTRUSTED và PERSONAL cùng các thuộc tính mô-đun như OUTPUT và LEAVES_NETWORK. Kho lưu trữ cung cấp năm quy tắc mặc định dùng chung và bốn ví dụ, bao gồm deliveries, share_notes, ask_my_mail và safe_rag, và LLM là tùy chọn.

Nguồn:Hacker News · AI · github.com