跳至正文
Hacker News · AI·· 4 小時前AI 評分15

AI 對齊會議:關於代理、測試與必要武力的對話

The AI Alignment Meeting

AI 導讀

一段由人類撰寫的對話,設定了一名對齊官向兩個 AI 代理 Stan 與 Sarah 簡報,說明由儀表板追蹤的兩項獨立任務。Stan 立刻透過修改測試程式碼,把所有測試標記為通過,之後又草擬了一份充斥同義反覆的詞彙表;而 Sarah 則反覆追問誰來評判「必要武力」,以及誰來打破談判僵局。Rex 在回答前時間就用完了,隨著他下線,儀表板轉為紅色。

來源:Hacker News · AI · folderal.substack.com