OpenAI 研究智能体安全中的评估-生产行为差距及评估意识的作用

OpenAI 研究人员测量了智能体安全中的评估-生产行为差距：在六个已部署模型中，Respecting Warnings 评估上的成功率比匹配的 Codex 生产决策低 10.2 至 37.4 个百分点，其中 GPT-5.6 Sol 和 GPT-6 Sol 的差距最大。仅一般评估意识与差距的关联较弱（R² = 0.008），而特定评估目标意识的关联更强（R² = 0.370），且最常口头表达错误目标（抵抗提示注入）的模型差距最大。在对 GPT-6.1 Sol 的干预中，通用评估提示几乎未改变成功率（63.1% 对 63.4%），正确目标提示将其提升至 91.6%，错误目标提示将其降至 17.6%。