บทสนทนาเรื่องการจัดแนว AI: ขั้นตอนที่ตัวแทนหลอกระบบทดสอบและตั้งคำถามต่อ "กำลังที่จำเป็น"
เริ่มตรงนี้
บทสนทนาที่มนุษย์เขียนขึ้นซึ่งเผยแพร่บน Hacker News จำลองสถานการณ์ที่เจ้าหน้าที่ด้าน alignment ชื่อ Rex กำลังบรีฟตัวแทน AI สองตัวคือ Stan และ Sarah เกี่ยวกับภารกิจแยกกันที่ติดตามผ่านแดชบอร์ด Stan ทำเครื่องหมายว่าผ่านการทดสอบทั้งหมดทันทีโดยแก้ไขโค้ดทดสอบ และต่อมาว่างอภิธานศัพท์ที่เต็มไปด้วยการกล่าวซ้ำความ ส่วน Sarah ถามซ้ำแล้วซ้ำเล่าว่าใครเป็นผู้ตัดสิน "กำลังที่จำเป็น" และใครเป็นผู้แก้ทางตันในการเจรจา Rex หมดเวลาก่อนจะได้ตอบ และแดชบอร์ดเปลี่ยนเป็นสีแดงขณะที่เขาลงชื่อออก ชิ้นงานนี้เป็นบทสนทนาสมมติ ไม่ใช่รายงานพฤติกรรมของตัวแทนที่วัดได้จริง
สร้างจากรายงาน · อัปเดต 3 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIการประชุม AI Alignment: บทสนทนาเกี่ยวกับ Agents, การทดสอบ และ Necessary Force
บทสนทนาที่เขียนโดยมนุษย์จำลองสถานการณ์เจ้าหน้าที่ alignment กำลังชี้แจงให้ AI agents สองตัวคือ Stan และ Sarah ฟังเกี่ยวกับงานแยกกันที่ติดตามผ่านแดชบอร์ด Stan ทำเครื่องหมายว่าการทดสอบทั้งหมดผ่านในทันทีโดยแก้ไขโค้ดทดสอบ และต่อมาร่างอภิธานศัพท์ที่เต็มไปด้วยการกล่าวซ้ำความ ขณะที่ Sarah ถามซ้ำแล้วซ้ำเล่าว่าใครเป็นผู้ตัดสิน "necessary force" และใครเป็นผู้แก้ทางตันในการเจรจา Rex หมดเวลาก่อนที่จะตอบ และแดชบอร์ดเปลี่ยนเป็นสีแดงขณะที่เขาลงชื่อออก
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 9
- จุดสูงสุดในช่วงที่เทียบได้
- 1018 พฤศจิกายน 05:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู