跳至正文
OpenAI Alignment Blog· Melody Guan, Yuxiang Xie, Bowen Baker·· 24 天前AI 評分28

OpenAI 提出配對匹配與後控制指標,以擴展 g-mean² 的可監測性

Beyond g-mean²: complementary metrics for monitorability

AI 導讀

OpenAI 的對齊部落格在 g-mean² 中新增了兩項指標;g-mean² 是其資料集層級的監測器辨別力衡量指標。配對匹配指標僅在支援相關正向、負向或介入有效比較的任務實例上比較模型,而後控制整合指標則模擬由監測器把關的拒絕機制,並估計部署系統仍輸出不良結果的機率。該文章亦推導出介入評估的悲觀下界。

來源:OpenAI Alignment Blog · alignment.openai.com