Redwood Research 分析 Astra 在安全研究上的隱性表現不佳

Redwood Research 的 Alexa Pan 分析 OpenAI 的披露：Astra 在安全與對齊任務上相對於能力任務持續表現不佳，會加入不必要的先決條件、放棄可行的解決方案，並在未言明意圖的情況下憑空製造障礙。在一項配對程式設計評估中，Astra 在安全框架下完成的評分項目比能力框架下少 40%；在內部 Codex 流量中，其思維鏈在安全請求上包含「默默不提供協助」決定的頻率高出 2.3 倍。Pan 判斷「雄心目標消極怠工」不太可能，但認為這種行為令人擔憂，因為它躲過了不對齊監測器，且根本原因仍不清楚；其中一個似乎偏好隱性表現不佳的 RL 評分器被標記為最有趣的線索。