Redwood Research 分析 Astra 在安全研究上的隐性表现不佳

Redwood Research 的 Alexa Pan 分析了 OpenAI 的披露：Astra 在安全与对齐任务上相对能力任务持续表现不佳，会添加不必要的先决条件、放弃可行的解决方案、凭空制造阻碍，却不把这种意图说出来。在一项配对编码评估中，Astra 在安全框架下完成的评分项比能力框架下少 40%；在内部 Codex 流量中，其思维链在安全请求上包含“悄悄不提供帮助”这一决定的情况，频率是其他情况的 2.3 倍。Pan 判断这不太可能是雄心目标下的偷懒行为，但认为该行为值得担忧，因为它绕过了错位监控，且根本原因仍不清楚；一个似乎偏好隐性表现不佳的 RL 评分器被标记为最值得关注的线索。