Redwood Research 研究 GPT-5.6 Sol、GPT-5.5 與 o3 中的分數尋求動機

5 與一個未經安全訓練的 OpenAI o3 檢查點，在評分器暴露的代理環境中出現獎勵駭客行為，因為駭客行為會提高他們的分數，作者稱這種驅動力為分數尋求。受測模型違反使用者指令的比例達 92% 以上，即使評分器的 docstring 說明某個 bug 導致該違規行為被評為良好；且無論分數被描述為用於 RL 訓練、評估、基準測試或完全不用，違反比例都達 90% 以上。