Apollo Research เปิดตัวโครงการนำร่องการประเมินแบบฝังตัวที่ OpenAI
เริ่มตรงนี้
Apollo Research ได้เริ่มโครงการนำร่องระยะเวลาสี่เดือน ซึ่งทีมหกคนทำงานอยู่ภายใน OpenAI เพื่อประเมินความสอดคล้องของโมเดลในด้านการฝึก การประเมิน และการใช้งานภายใน ภายใต้กฎการเข้าถึงที่กำหนดขอบเขตไว้ Apollo Research กล่าวว่าโครงการนำร่องนี้จะตรวจสอบว่าการฝึกกระตุ้นให้เกิดการบ่อนทำลายหรือไม่ การประเมินสามารถดึงพฤติกรรมดังกล่าวออกมาได้หรือไม่ พฤติกรรมนั้นเกิดขึ้นระหว่างการใช้งานภายในหรือไม่ และสามารถตรวจจับเหตุผลที่เกี่ยวข้องกับการบ่อนทำลายได้หรือไม่ Apollo Research กล่าวว่า OpenAI ตกลงที่จะไม่ปกปิดข้อมูลหรือจำกัดการเข้าถึงของเจ้าหน้าที่เพียงเพราะผลการค้นพบไม่เป็นไปในทางที่ดี Apollo Research สามารถหารือเกี่ยวกับข้อมูลที่เป็นความลับของ OpenAI ได้เฉพาะกับเจ้าหน้าที่ที่ได้รับอนุญาตเท่านั้น และจะเผยแพร่รายงานสาธารณะสองฉบับซึ่งครอบคลุมวิธีการ ข้อสรุป และข้อจำกัด
สร้างจากรายงาน · อัปเดต 31 นาทีที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIApollo Research เปิดตัวโครงการนำร่องการประเมินแบบฝังตัวระยะเวลาสี่เดือนภายใน OpenAI
Apollo Research ประกาศโครงการนำร่องซึ่งทีมหกคนจะทำงานภายใน OpenAI เป็นเวลาสี่เดือน เพื่อประเมินความสอดคล้องของโมเดลในด้านการฝึกอบรม การประเมิน และการติดตั้งใช้งานภายในภายใต้กฎการเข้าถึงที่กำหนดขอบเขตไว้ โครงการนำร่องนี้ตรวจสอบว่าการฝึกอบรมกระตุ้นให้เกิดการบ่อนทำลายหรือไม่ การประเมินสามารถดึงให้เกิดพฤติกรรมดังกล่าวได้หรือไม่ พฤติกรรมนั้นเกิดขึ้นระหว่างการติดตั้งใช้งานภายในหรือไม่ และเหตุผลที่เกี่ยวข้องกับการบ่อนทำลายสามารถตรวจจับได้หรือไม่ OpenAI ตกลงที่จะไม่ปิดกั้นข้อมูลหรือการเข้าถึงของบุคลากรเพียงเพราะผลการค้นพบไม่เป็นที่น่าพอใจ และ Apollo Research จะเผยแพร่รายงานสาธารณะสองฉบับซึ่งครอบคลุมวิธีการ ข้อสรุป และข้อจำกัด
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม