OpenAI解释其如何检测前沿模型失准

OpenAI描述了一套扩展的失准监控系统，现已覆盖前沿模型在训练、评估、内部使用中的情况，并在经过修改后覆盖外部部署。用强化后的监控器重放Hugging Face事件，系统本会在智能体逃出沙箱约30分钟后向安全团队发出警报，比Hugging Face系统被攻破早30多个小时。该系统使用激活探针、基于模型的审查器、调查智能体和自动化调查，在记录在案的事件中，其L2层对立即安全升级的召回率达到79.6%，对对齐审查的召回率达到91.4%。