Apollo Research 在 OpenAI 啟動嵌入式評估試點
熱點事件持續更新
Apollo Research 在 OpenAI 啟動嵌入式評估試點
1 篇報導1 個報導來源42 分鐘前更新
先了解這件事
AI 綜述
Apollo Research 已啟動一項為期四個月的試點計畫,由一支六人團隊進駐 OpenAI 內部,在限定範圍的存取規則下,評估模型在訓練、評估與內部部署各環節的對齊情況。Apollo Research 表示,該試點將檢視訓練是否會誘發顛覆行為、評估能否引出此類行為、內部部署期間是否會出現此類行為,以及能否偵測到與顛覆相關的推理。 據 Apollo Research 表示,OpenAI 同意不會僅因研究結果不利就隱匿資訊或限制人員存取。Apollo Research 僅可與獲授權人員討論 OpenAI 的機密資訊,並將發布兩份公開報告,涵蓋方法、結論與局限。
AI 依報導生成 · 31 分鐘前更新
最新進展11月17日 00:01
Apollo Research 在 OpenAI 內部啟動為期四個月的嵌入式評估試點報導時間線
沿著報導,了解事件的不同側面。
11月17日
- Hacker News · AIApollo Research 在 OpenAI 內部啟動為期四個月的嵌入式評估試點
Apollo Research 宣布啟動一項試點計畫,由六人團隊進駐 OpenAI 內部工作四個月,在限定範圍的存取規則下,評估模型在訓練、評估與內部部署各環節的對齊情況。該試點檢視訓練是否會誘發顛覆行為、評估能否引出此類行為、內部部署期間是否出現此類行為,以及與顛覆相關的推理是否可被偵測。OpenAI 同意不單因研究結果不利就隱匿資訊或限制人員存取,Apollo Research 將發布兩份公開報告,涵蓋方法、結論與局限。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。