Hacker News · AI·· 56 分鐘前AI 評分62
Apollo Research 在 OpenAI 內部啟動為期四個月的嵌入式評估試點
Embedded Evaluators at OpenAI
AI 導讀
Apollo Research 宣布啟動一項試點計畫,由六人團隊進駐 OpenAI 內部工作四個月,在限定範圍的存取規則下,評估模型在訓練、評估與內部部署各環節的對齊情況。該試點檢視訓練是否會誘發顛覆行為、評估能否引出此類行為、內部部署期間是否出現此類行為,以及與顛覆相關的推理是否可被偵測。OpenAI 同意不單因研究結果不利就隱匿資訊或限制人員存取,Apollo Research 將發布兩份公開報告,涵蓋方法、結論與局限。
來源:Hacker News · AI · apolloresearch.ai