OpenAI 使用自動化紅隊測試來訓練 GPT-6 的抗越獄能力

OpenAI 研究人員報告，自動化紅隊測試——由 GPT-5.6 Sol 推理模型攻擊 GPT-5.4 與 GPT-5.5 防禦方——產生了合成越獄，隨後被用作 GPT-6 Astra 與 Sol 的強化學習訓練資料。目標是讓模型在網路、生物與暴力活動等高風險領域中抵抗越獄。 在取自先前針對 GPT-5.4 與 GPT-5.5 攻擊的固定越獄上，GPT-6 Astra 安全地回答了 91.5% 的網路相關提示，相較之下 GPT-5.6 Sol 為 59%，且在自適應多輪評估中，它在所有攻擊者預算下都保持更強的穩健性。OpenAI 表示，穩健性訓練並未增加對良性任務的拒絕，並引用 GPT-6 Astra 系統卡中安全性與有用性的帕雷托改進作為依據。 OpenAI 指出，在部署中，模型安全訓練只是更廣泛防護系統中的一層。

AI 依報導生成 · 16 小時前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。