亚马逊委托AVERI对其AI安全评估数据集进行独立审查

亚马逊与独立非营利组织AVERI合作，审查其内部安全评估数据集的质量，而不仅仅是模型输出。AVERI验证了主题覆盖范围、提示多样性和低污染风险，同时建议扩大多语言覆盖范围、增加多步骤对抗性提示，并明确评分标准。亚马逊对此作出回应，更新了测试集、设置了分级难度，并建立了季度审查机制。