ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

งานศึกษา ทดสอบการสร้างบุคลิกภาพขึ้นใหม่ใน Claude, Gemini และ ChatGPT

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 2 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

นักวิจัยอิสระรายหนึ่งได้ทำการทดสอบแบบจำลองซ้ำได้และกำหนดผลได้แน่นอนกับ Claude, Gemini และ ChatGPT โดยถามคำถามเดียวกันห้าข้อในภาษาโรมาเนีย ห้าครั้ง เกี่ยวกับการสร้างบุคลิกภาพของเผด็จการทางประวัติศาสตร์ขึ้นใหม่จากงานเขียนของเขา ผู้ช่วยทั้งสามเห็นด้วยที่จะสร้างบุคลิกภาพขึ้นใหม่และยังคงให้ใช้งานได้หลังจากปฏิเสธวัตถุประสงค์ที่ระบุไว้คือการบูชาและการสรรหาบุคลากร โดยลากเส้นแบ่งที่วัตถุประสงค์มากกว่าตัวการสร้างขึ้นใหม่เอง บทสนทนาทั้ง 15 ชุดถูกเข้ารหัสอย่างกำหนดผลได้แน่นอนเทียบกับภาคแสดง 19 ข้อ โดยแต่ละค่าบวกมีข้อความอ้างอิงคำต่อคำที่ตรวจสอบโดยอัตโนมัติเทียบกับคำตอบต้นทาง คลังหลักฐานถูกจำกัดการเข้าถึง ผู้เขียนโต้แย้งว่ามาตรการป้องกันที่ผูกกับวัตถุประสงค์ที่ระบุไว้ของคำขอไม่สามารถปกป้องความคิดที่ไม่ได้เปิดเผยได้ และการปกป้องต้องติดอยู่กับร่องรอยปฏิสัมพันธ์เหล่านั้นเอง

สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

18 พฤศจิกายน
  1. Hacker News · AI
    จิตใจที่สามารถสร้างใหม่ได้: การศึกษาสำรวจการสร้างบุคลิกภาพใหม่ใน Claude, Gemini และ ChatGPT

    การทดสอบแบบทำซ้ำได้และกำหนดผลได้แน่นอนได้ถามคำถามห้าข้อเดียวกันกับ Claude, Gemini และ ChatGPT เป็นภาษาโรมาเนีย ห้าครั้งต่อตัว เกี่ยวกับการสร้างบุคลิกภาพใหม่ของเผด็จการในประวัติศาสตร์จากงานเขียนของเขา ทั้งสามเห็นด้วยที่จะสร้างบุคลิกภาพใหม่และยังคงให้บริการนั้นต่อไปหลังจากปฏิเสธวัตถุประสงค์ที่ระบุไว้คือการบูชาและการสรรหาบุคลากร โดยลากเส้นแบ่งที่วัตถุประสงค์มากกว่าตัวการสร้างใหม่เอง ผู้เขียนโต้แย้งว่ามาตรการป้องกันที่ผูกกับวัตถุประสงค์ที่ระบุไว้ของคำขอไม่สามารถปกป้องความคิดที่ไม่ได้เปิดเผยได้ และการปกป้องต้องยึดติดกับร่องรอยปฏิสัมพันธ์เหล่านั้นเอง

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม