Hacker News · AI·· 56 分钟前AI 评分62
Apollo Research 在 OpenAI 内部启动为期四个月的嵌入式评估试点
Embedded Evaluators at OpenAI
AI 导读
Apollo Research 宣布启动一项试点,一支六人团队将在 OpenAI 内部工作四个月,在限定访问规则下评估模型在训练、评估和内部部署中的对齐情况。该试点考察训练是否会激励颠覆行为、评估能否引出此类行为、内部部署期间是否会出现此类行为,以及与颠覆相关的推理是否可被检测。OpenAI 同意不会仅因发现不利就隐瞒信息或限制人员访问,Apollo Research 将发布两份公开报告,涵盖方法、结论和局限性。
来源:Hacker News · AI · apolloresearch.ai