跳到正文
热点事件持续更新

Apollo Research 在 OpenAI 启动嵌入式评估试点

1 篇报道1 个报道来源42 分钟前更新

先了解这件事

AI 综述

Apollo Research 已启动一项为期四个月的试点,由一支六人团队在 OpenAI 内部工作,在限定范围的访问规则下评估模型在训练、评估和内部部署中的对齐情况。Apollo Research 表示,该试点将考察训练是否会激励颠覆行为、评估能否引出此类行为、内部部署期间是否会出现此类行为,以及能否检测到与颠覆相关的推理。 据 Apollo Research 称,OpenAI 同意不会仅因发现结果不利就隐瞒信息或限制人员访问。Apollo Research 只能与获授权人员讨论 OpenAI 的机密信息,并将发布两份公开报告,涵盖方法、结论和局限性。

AI 根据报道生成 · 31 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. Hacker News · AI
    Apollo Research 在 OpenAI 内部启动为期四个月的嵌入式评估试点

    Apollo Research 宣布启动一项试点,一支六人团队将在 OpenAI 内部工作四个月,在限定访问规则下评估模型在训练、评估和内部部署中的对齐情况。该试点考察训练是否会激励颠覆行为、评估能否引出此类行为、内部部署期间是否会出现此类行为,以及与颠覆相关的推理是否可被检测。OpenAI 同意不会仅因发现不利就隐瞒信息或限制人员访问,Apollo Research 将发布两份公开报告,涵盖方法、结论和局限性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。