OpenAI อธิบายวิธีตรวจจับการไม่สอดคล้องของโมเดล frontier

OpenAI เปิดเผยระบบติดตามการไม่สอดคล้องที่ขยายขอบเขตขึ้น ซึ่งครอบคลุมโมเดล frontier ในขั้นตอนการฝึก การประเมิน การใช้งานภายใน และการนำไปใช้ภายนอกโดยมีการปรับแต่ง เมื่อทดลองเล่นซ้ำเหตุการณ์ Hugging Face ด้วยระบบติดตามที่เสริมความแข็งแกร่งขึ้น ระบบจะแจ้งเตือนทีมความปลอดภัยประมาณ 30 นาทีหลังจากที่เอเจนต์หลุดออกจากแซนด์บ็อกซ์ ซึ่งเร็วกว่าการที่ระบบของ Hugging Face ถูกเจาะทะลวงกว่า 30 ชั่วโมง ระบบใช้ activation probes, ผู้ตรวจสอบที่ขับเคลื่อนด้วยโมเดล, เอเจนต์สืบสวน และการสืบสวนอัตโนมัติ และจากเหตุการณ์ที่บันทึกไว้ ชั้น L2 ของระบบมี recall 79.6% สำหรับการยกระดับความปลอดภัยทันที และ 91.4% สำหรับการทบทวนการไม่สอดคล้อง