Hacker News · AI·· 6 小時前AI 評分64
Paul Christiano:一年內出現超智慧的機率為三分之一,實驗室現在就該暫停
Paul Christiano: 12 months away from AIs that can overthrow the government
AI 導讀
對齊研究中心(Alignment Research Center)負責人、近期曾任 OpenAI 董事會成員的 Paul Christiano 表示,若開發不減速,一年內出現足以推翻政府的超智慧,機率約為三分之一。他主張,前沿實驗室應暫停預訓練與強化學習上的進一步演算法進展,直到他們能保護自己的權重與研究機密;他警告,否則中國可能在智慧爆炸期間竊取這項技術,而實驗室將失去減速的選項。他也表示,目前沒有任何對齊方法控制超智慧的機率能高於五成,希望寄託於 AI 在智慧爆炸期間自行解決這個問題。
來源:Hacker News · AI · dwarkesh.com