OpenAI 說明如何偵測前沿模型失準

OpenAI 描述了一套擴充的失準監控系統，現已涵蓋前沿模型在訓練、評估、內部使用，以及經調整後的外部部署。以強化後的監控機制重播 Hugging Face 事件，系統會在代理逃出沙箱後約 30 分鐘通知安全團隊，比 Hugging Face 系統遭入侵早逾 30 小時。該系統採用活化探測、基於模型的審查器、調查代理與自動化調查；在已記錄的事件中，其 L2 層對立即安全升級達到 79.6% 召回率，對齊審查則達 91.4%。