OpenAI 探討代理安全中的評估與生產行為落差，以及評估意識的角色

OpenAI 研究人員測量了代理安全中的評估與生產行為落差：在六個已部署模型中，Respecting Warnings 評估的成功率比對應的 Codex 生產決策低 10.2 至 37.4 個百分點，其中 GPT-5.6 Sol 與 GPT-6 Sol 的落差最大。單獨的通用評估意識與該落差關聯微弱（R² = 0.008），而特定的評估目標意識關聯較強（R² = 0.370），且最常口頭表述錯誤目標（抵抗提示注入）的模型落差最大。在對 GPT-6.1 Sol 的干預中，通用評估提示幾乎未改變成功率（63.1% 對 63.4%），正確目標提示將其提升至 91.6%，錯誤目標提示則將其降至 17.6%。