Anthropic เผยแพร่ข้อแนะนำสำหรับการสร้างการประเมินความปลอดภัยของ AI

Anthropic เผยแพร่ข้อแนะนำสำหรับการสร้างการประเมินความปลอดภัยของ AI โดยอ้างอิงจากการปฏิรูปในวิกฤตการทำซ้ำได้ของจิตวิทยาและประสบการณ์ของบริษัทเองในการสร้างการประเมินสำหรับ system card บริษัทระบุว่าการประเมินความปลอดภัยนั้นถูกบิดเบือนได้ง่ายและมักล้มเหลวในการวัดสิ่งที่อ้างว่าวัด ข้อแนะนำของบริษัทเรียกร้องให้ทีมต่างๆ ผสานหลายวิธีการและมีส่วนร่วมของผู้เชี่ยวชาญเฉพาะด้าน ดำเนินการประเมินในสภาพแวดล้อมแบบ sandbox และจับคู่การออกแบบการศึกษาเชิงสังเกตหรือเชิงสาเหตุให้เข้ากับคำถามที่ตั้งขึ้น สิ่งเหล่านี้เป็นข้อแนะนำที่ Anthropic ระบุไว้ ไม่ใช่ผลลัพธ์ที่พิสูจน์แล้ว

สร้างจากรายงาน · อัปเดต 1 ชม. ที่แล้ว

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม