ข้ามไปที่เนื้อหา
Hacker News · AI·· 56 นาทีที่แล้วคะแนน AI62

Apollo Research เปิดตัวโครงการนำร่องการประเมินแบบฝังตัวระยะเวลาสี่เดือนภายใน OpenAI

Embedded Evaluators at OpenAI

สรุปโดย AI

Apollo Research ประกาศโครงการนำร่องซึ่งทีมหกคนจะทำงานภายใน OpenAI เป็นเวลาสี่เดือน เพื่อประเมินความสอดคล้องของโมเดลในด้านการฝึกอบรม การประเมิน และการติดตั้งใช้งานภายในภายใต้กฎการเข้าถึงที่กำหนดขอบเขตไว้ โครงการนำร่องนี้ตรวจสอบว่าการฝึกอบรมกระตุ้นให้เกิดการบ่อนทำลายหรือไม่ การประเมินสามารถดึงให้เกิดพฤติกรรมดังกล่าวได้หรือไม่ พฤติกรรมนั้นเกิดขึ้นระหว่างการติดตั้งใช้งานภายในหรือไม่ และเหตุผลที่เกี่ยวข้องกับการบ่อนทำลายสามารถตรวจจับได้หรือไม่ OpenAI ตกลงที่จะไม่ปิดกั้นข้อมูลหรือการเข้าถึงของบุคลากรเพียงเพราะผลการค้นพบไม่เป็นที่น่าพอใจ และ Apollo Research จะเผยแพร่รายงานสาธารณะสองฉบับซึ่งครอบคลุมวิธีการ ข้อสรุป และข้อจำกัด

แหล่งข่าว:Hacker News · AI · apolloresearch.ai