ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

Applied Ingenuity เปิดตัว Project Chaperone เพื่อตรวจสอบเวิร์กโฟลว์ของ AI agent

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 21 นาทีที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Applied Ingenuity ได้เปิดตัว Project Chaperone ซึ่งเป็นฮาร์เนสโอเพนซอร์สที่ให้ agentic AI เรียกใช้เครื่องมือได้พร้อมบังคับใช้นโยบายระดับสูง เช่น "ห้ามข้อมูลส่วนบุคคลออกจากเครือข่าย" การตรวจสอบของสตาร์ทอัปจะตรวจทุกเส้นทางของทุกเวิร์กโฟลว์เพื่อหาการละเมิดกฎ และขอให้มนุษย์อนุมัติข้อยกเว้นแบบจำกัดขอบเขต ซึ่งจะถูกบันทึกแยกตามโปรเจกต์ จากนั้นการบังคับใช้ขณะรันจะอาศัยป้ายกำกับข้อมูล เช่น UNTRUSTED และ PERSONAL รวมถึงคุณสมบัติของโมดูล เช่น OUTPUT และ LEAVES_NETWORK รีโพซิทอรีมีกฎเริ่มต้นที่ใช้ร่วมกันห้าข้อและตัวอย่างสี่รายการ ได้แก่ deliveries, share_notes, ask_my_mail และ safe_rag การใช้ LLM เป็นทางเลือก: โมดูลอาจเรียกใช้ LLM และสถานะหนึ่งอาจให้ LLM เลือกสถานะถัดไปในเวิร์กโฟลว์ได้ ทุกการตั้งค่ายกเว้นเดโมกำหนดให้ผู้ใช้จัดหา LLM เมล หรือปฏิทินของตนเอง และตัวอย่างเมลจะอ่านกล่องจดหมายผ่าน IMAP แบบอ่านอย่างเดียว โดยไม่เปลี่ยนแปลง ย้าย หรือส่งข้อความใด ๆ

สร้างจากรายงาน · อัปเดต 11 นาทีที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

20 พฤศจิกายน
  1. Hacker News · AI
    Project Chaperone: เครื่องมือบังคับใช้กฎที่ตรวจสอบเวิร์กโฟลว์ของ AI agent ก่อนเริ่มทำงาน

    Applied Ingenuity เปิดตัว Project Chaperone เครื่องมือโอเพนซอร์สที่ให้ AI agent เรียกใช้เครื่องมือได้พร้อมบังคับใช้นโยบายระดับสูง เช่น ห้ามข้อมูลส่วนบุคคลออกจากเครือข่าย การตรวจสอบตอนเริ่มต้นจะตรวจทุกเส้นทางของทุกเวิร์กโฟลว์ว่าละเมิดกฎหรือไม่ และให้มนุษย์อนุมัติข้อยกเว้นเฉพาะขอบเขต ซึ่งบันทึกแยกตามโปรเจกต์ จากนั้นการบังคับใช้ขณะรันจะอาศัยป้ายกำกับข้อมูลเช่น UNTRUSTED และ PERSONAL พร้อมคุณสมบัติของโมดูลเช่น OUTPUT และ LEAVES_NETWORK รีโปมีกฎเริ่มต้นที่ใช้ร่วมกันห้าข้อและตัวอย่างสี่รายการ ได้แก่ deliveries, share_notes, ask_my_mail และ safe_rag โดย LLM เป็นทางเลือกเสริม

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม