Redwood Research· Alek Westover·· 3 天前AI 评分48
Redwood Research质疑GDM是否有意对Gemini 4进行思维链训练
We don’t understand whether GDM intentionally trains on CoT
AI 导读
Redwood Research表示,在Gemini 4安全报告引用了一项将思维作为上下文进行观察的辅助奖励后,目前尚不清楚Google DeepMind是否有意对Gemini 4进行思维链训练。GDM员工告诉Redwood,他们并未在CoT上进行训练,但无法解释技术细节,而GDM的一篇博客文章称,该模型绝不会因其在思维链中所写的内容而受到惩罚。Redwood警告称,针对不一致推理的CoT奖励可能会抑制诚实的言语表达,并降低CoT的忠实度。
来源:Redwood Research · blog.redwoodresearch.org