Hacker News · AI·· 56 นาทีที่แล้วคะแนน AI62
Apollo Research เปิดตัวโครงการนำร่องการประเมินแบบฝังตัวระยะเวลาสี่เดือนภายใน OpenAI
Embedded Evaluators at OpenAI
สรุปโดย AI
Apollo Research ประกาศโครงการนำร่องซึ่งทีมหกคนจะทำงานภายใน OpenAI เป็นเวลาสี่เดือน เพื่อประเมินความสอดคล้องของโมเดลในด้านการฝึกอบรม การประเมิน และการติดตั้งใช้งานภายในภายใต้กฎการเข้าถึงที่กำหนดขอบเขตไว้ โครงการนำร่องนี้ตรวจสอบว่าการฝึกอบรมกระตุ้นให้เกิดการบ่อนทำลายหรือไม่ การประเมินสามารถดึงให้เกิดพฤติกรรมดังกล่าวได้หรือไม่ พฤติกรรมนั้นเกิดขึ้นระหว่างการติดตั้งใช้งานภายในหรือไม่ และเหตุผลที่เกี่ยวข้องกับการบ่อนทำลายสามารถตรวจจับได้หรือไม่ OpenAI ตกลงที่จะไม่ปิดกั้นข้อมูลหรือการเข้าถึงของบุคลากรเพียงเพราะผลการค้นพบไม่เป็นที่น่าพอใจ และ Apollo Research จะเผยแพร่รายงานสาธารณะสองฉบับซึ่งครอบคลุมวิธีการ ข้อสรุป และข้อจำกัด
แหล่งข่าว:Hacker News · AI · apolloresearch.ai