Redwood Research đặt câu hỏi liệu GDM có chủ đích huấn luyện Gemini 4 trên chuỗi suy nghĩ hay không

Redwood Research cho biết không rõ liệu Google DeepMind có chủ đích huấn luyện Gemini 4 trên chuỗi suy nghĩ hay không, sau khi báo cáo An toàn của Gemini 4 trích dẫn một phần thưởng phụ quan sát các suy nghĩ như ngữ cảnh. Nhân viên GDM nói với Redwood rằng họ không huấn luyện trên CoT nhưng không thể giải thích chi tiết kỹ thuật, trong khi một bài đăng blog của GDM nói rằng mô hình không bao giờ bị phạt vì những gì nó viết trong chuỗi suy nghĩ của mình. Redwood cảnh báo rằng phần thưởng CoT thiên lệch chống lại lý luận không phù hợp có thể đàn áp sự diễn đạt trung thực và làm giảm tính trung thực của CoT.