OpenAI 使用自动化红队测试来训练 GPT-6 的抗越狱能力
热点事件观察中
OpenAI 使用自动化红队测试来训练 GPT-6 的抗越狱能力
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
OpenAI 研究人员报告称，自动化红队测试——即由 GPT-5.6 Sol 推理模型攻击 GPT-5.4 和 GPT-5.5 防御方——生成了合成越狱样本，随后被用作 GPT-6 Astra 和 Sol 的强化学习训练数据。目标是让模型在网络、生物和暴力活动等高风险领域抵御越狱。 在取自此前针对 GPT-5.4 和 GPT-5.5 攻击的固定越狱样本上，GPT-6 Astra 安全回答了 91.5% 的网络相关提示，而 GPT-5.6 Sol 为 59%；在自适应多轮评估中，它在所有攻击者预算下都保持更强的稳健性。OpenAI 表示，稳健性训练并未增加对良性任务的拒答，并援引 GPT-6 Astra 系统卡中安全性与有用性方面的帕累托改进作为依据。 OpenAI 指出，在部署中，模型安全训练只是更广泛防护体系中的一层。
AI 根据报道生成 · 15 小时前更新
最新进展11月12日 16:00
OpenAI 使用自动化红队测试提升 GPT-6 Astra 和 Sol 的模糊鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
11月12日
- OpenAI Alignment BlogOpenAI 使用自动化红队测试提升 GPT-6 Astra 和 Sol 的模糊鲁棒性
OpenAI 研究人员描述了自动化红队测试的做法：使用 GPT-5.6 Sol 系列推理模型作为攻击方，对抗 GPT-5.4 和 GPT-5.5 防御方，生成合成越狱样本，并将其用作 GPT-6 Astra 和 Sol 的强化学习训练数据。在针对 GPT-5.4 和 5.5 的既往攻击所固定的越狱样本上，GPT-6 Astra 在网络类问题上安全回答率为 91.5%，而 GPT-5.6 Sol 为 59%；在自适应多轮评估中，它在所有攻击方预算下都保持更强的鲁棒性。OpenAI 报告称，鲁棒性训练并未提高对良性任务的拒答率，并援引 GPT-6 Astra 系统卡中安全性与有用性方面的帕累托改进作为依据。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。