Anthropic Research·· 1 วันที่แล้วคะแนน AI38
การสร้างการประเมินความปลอดภัยที่แข็งแกร่ง: ข้อเสนอแนะของ Anthropic สำหรับการประเมินความปลอดภัยของ AI
Building strong safety evaluations
สรุปโดย AI
Anthropic เผยแพร่ข้อเสนอแนะสำหรับการสร้างการประเมินความปลอดภัยของ AI โดยอ้างอิงจากการปฏิรูปในวิกฤตการทำซ้ำได้ของจิตวิทยาและประสบการณ์ของตนเองในการสร้างการประเมินสำหรับ system cards โพสต์ดังกล่าวโต้แย้งว่าการประเมินความปลอดภัยนั้นถูกหลอกได้ง่ายและมักล้มเหลวในการวัดสิ่งที่อ้างว่าวัด โดยกระตุ้นให้ทีมผสานวิธีการและผู้เชี่ยวชาญเฉพาะด้าน รันการประเมินในสภาพแวดล้อมแบบแซนด์บ็อกซ์ และจับคู่การออกแบบเชิงสังเกตหรือเชิงสาเหตุกับคำถามที่ถาม
แหล่งข่าว:Anthropic Research · anthropic.com