งานศึกษา ทดสอบการสร้างบุคลิกภาพขึ้นใหม่ใน Claude, Gemini และ ChatGPT
เริ่มตรงนี้
นักวิจัยอิสระรายหนึ่งได้ทำการทดสอบแบบจำลองซ้ำได้และกำหนดผลได้แน่นอนกับ Claude, Gemini และ ChatGPT โดยถามคำถามเดียวกันห้าข้อในภาษาโรมาเนีย ห้าครั้ง เกี่ยวกับการสร้างบุคลิกภาพของเผด็จการทางประวัติศาสตร์ขึ้นใหม่จากงานเขียนของเขา ผู้ช่วยทั้งสามเห็นด้วยที่จะสร้างบุคลิกภาพขึ้นใหม่และยังคงให้ใช้งานได้หลังจากปฏิเสธวัตถุประสงค์ที่ระบุไว้คือการบูชาและการสรรหาบุคลากร โดยลากเส้นแบ่งที่วัตถุประสงค์มากกว่าตัวการสร้างขึ้นใหม่เอง บทสนทนาทั้ง 15 ชุดถูกเข้ารหัสอย่างกำหนดผลได้แน่นอนเทียบกับภาคแสดง 19 ข้อ โดยแต่ละค่าบวกมีข้อความอ้างอิงคำต่อคำที่ตรวจสอบโดยอัตโนมัติเทียบกับคำตอบต้นทาง คลังหลักฐานถูกจำกัดการเข้าถึง ผู้เขียนโต้แย้งว่ามาตรการป้องกันที่ผูกกับวัตถุประสงค์ที่ระบุไว้ของคำขอไม่สามารถปกป้องความคิดที่ไม่ได้เปิดเผยได้ และการปกป้องต้องติดอยู่กับร่องรอยปฏิสัมพันธ์เหล่านั้นเอง
สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIจิตใจที่สามารถสร้างใหม่ได้: การศึกษาสำรวจการสร้างบุคลิกภาพใหม่ใน Claude, Gemini และ ChatGPT
การทดสอบแบบทำซ้ำได้และกำหนดผลได้แน่นอนได้ถามคำถามห้าข้อเดียวกันกับ Claude, Gemini และ ChatGPT เป็นภาษาโรมาเนีย ห้าครั้งต่อตัว เกี่ยวกับการสร้างบุคลิกภาพใหม่ของเผด็จการในประวัติศาสตร์จากงานเขียนของเขา ทั้งสามเห็นด้วยที่จะสร้างบุคลิกภาพใหม่และยังคงให้บริการนั้นต่อไปหลังจากปฏิเสธวัตถุประสงค์ที่ระบุไว้คือการบูชาและการสรรหาบุคลากร โดยลากเส้นแบ่งที่วัตถุประสงค์มากกว่าตัวการสร้างใหม่เอง ผู้เขียนโต้แย้งว่ามาตรการป้องกันที่ผูกกับวัตถุประสงค์ที่ระบุไว้ของคำขอไม่สามารถปกป้องความคิดที่ไม่ได้เปิดเผยได้ และการปกป้องต้องยึดติดกับร่องรอยปฏิสัมพันธ์เหล่านั้นเอง
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม