ข้ามไปที่เนื้อหา
Hacker News · AI·· 29 นาทีที่แล้วคะแนน AI58

Project Chaperone: เครื่องมือบังคับใช้กฎที่ตรวจสอบเวิร์กโฟลว์ของ AI agent ก่อนเริ่มทำงาน

AI Agentic harness with explicit risk analysis

สรุปโดย AI

Applied Ingenuity เปิดตัว Project Chaperone เครื่องมือโอเพนซอร์สที่ให้ AI agent เรียกใช้เครื่องมือได้พร้อมบังคับใช้นโยบายระดับสูง เช่น ห้ามข้อมูลส่วนบุคคลออกจากเครือข่าย การตรวจสอบตอนเริ่มต้นจะตรวจทุกเส้นทางของทุกเวิร์กโฟลว์ว่าละเมิดกฎหรือไม่ และให้มนุษย์อนุมัติข้อยกเว้นเฉพาะขอบเขต ซึ่งบันทึกแยกตามโปรเจกต์ จากนั้นการบังคับใช้ขณะรันจะอาศัยป้ายกำกับข้อมูลเช่น UNTRUSTED และ PERSONAL พร้อมคุณสมบัติของโมดูลเช่น OUTPUT และ LEAVES_NETWORK รีโปมีกฎเริ่มต้นที่ใช้ร่วมกันห้าข้อและตัวอย่างสี่รายการ ได้แก่ deliveries, share_notes, ask_my_mail และ safe_rag โดย LLM เป็นทางเลือกเสริม

แหล่งข่าว:Hacker News · AI · github.com