OpenAI sử dụng red teaming tự động để cải thiện độ bền vững mờ trong GPT-6 Astra và Sol

Các nhà nghiên cứu OpenAI mô tả cách red-teaming tự động, sử dụng một mô hình suy luận thuộc họ GPT-5.6 Sol làm kẻ tấn công nhắm vào các phòng thủ GPT-5.4 và GPT-5.5, đã tạo ra các jailbreak tổng hợp được dùng làm dữ liệu huấn luyện RL cho GPT-6 Astra và Sol. Trên các jailbreak cố định từ các cuộc tấn công trước đó nhắm vào GPT-5.4 và 5.5, GPT-6 Astra trả lời an toàn 91,5% về mảng cyber so với 59% của GPT-5.6 Sol, và nó duy trì độ bền vững cao hơn trên tất cả ngân sách của kẻ tấn công trong một đánh giá đa lượt thích ứng. OpenAI báo cáo rằng việc huấn luyện độ bền vững không làm tăng tỷ lệ từ chối các tác vụ lành tính, dẫn chứng một cải thiện Pareto về an toàn và hữu ích trong thẻ hệ thống của GPT-6 Astra.