ข้ามไปที่เนื้อหา
Hacker News · AI·· 50 นาทีที่แล้วคะแนน AI31

เอเจนต์ที่กำกับด้วยเป้าหมาย: ใครเป็นผู้ตรวจสอบว่าเอเจนต์ AI อธิบายข้อเสนอของตนเองอย่างไร

Purpose-Governed Agents: who reviews how an AI agent describes its own proposals

สรุปโดย AI

บทความแสดงจุดยืนชื่อ "Purpose-Governed Agents" โต้แย้งว่าคำอธิบายของเอเจนต์ AI เองเกี่ยวกับการเปลี่ยนแปลงที่เสนอควรเปิดให้ตรวจสอบได้ เนื่องจากการวางกรอบข้อเสนอว่าเป็นการปรับปรุงตามปกติสามารถกำหนดทิศทางว่าการตัดสินใจใดจะได้รับการตรวจสอบและใครมีส่วนร่วม กรอบแนวคิดนี้จัดระเบียบปัญหาด้วยสี่แนวคิด ได้แก่ purpose, inceptions, missions และ signals และใช้สามสถานการณ์สมมติพร้อมกรณีข้อพิพาทที่ลงรายละเอียดเพื่อแสดงว่างานที่มีประโยชน์สามารถดำเนินต่อไปได้ภายใต้สิทธิ์ที่มีอยู่ ขณะที่ข้อกล่าวอ้างที่เป็นข้อพิพาทได้รับการตรวจสอบ บทความระบุความรับผิดชอบด้านการออกแบบและคำถามวิจัย และกล่าวว่าคุณค่าเชิงปฏิบัติยังต้องได้รับการประเมิน

แหล่งข่าว:Hacker News · AI · zenodo.org