Paul Christiano:一年內出現超智慧的機率為三分之一,並呼籲實驗室暫停
熱點事件持續更新
Paul Christiano:一年內出現超智慧的機率為三分之一,並呼籲實驗室暫停
1 篇報導1 個報導來源6 小時前更新
先了解這件事
AI 綜述
Paul Christiano,Alignment Research Center 負責人、近期曾任 OpenAI 董事會成員,表示若發展不放緩,一年內出現足以推翻政府的超智慧的機率約為三分之一。他主張前沿實驗室應暫停預訓練與強化學習上的進一步演算法進展,直到他們能保護自己的模型權重與研究機密,並警告否則中國可能在智慧爆炸期間竊取該技術,而實驗室將失去放慢腳步的選項。 Christiano 也表示,目前沒有任何對齊方法在控制超智慧上擁有超過五成的勝算,而希望在於 AI 能在智慧爆炸期間自行解決這個問題。
AI 依報導生成 · 6 小時前更新
最新進展11月18日 01:58
Paul Christiano:一年內出現超智慧的機率為三分之一,實驗室現在就該暫停報導時間線
沿著報導,了解事件的不同側面。
11月18日
- Hacker News · AIPaul Christiano:一年內出現超智慧的機率為三分之一,實驗室現在就該暫停
對齊研究中心(Alignment Research Center)負責人、近期曾任 OpenAI 董事會成員的 Paul Christiano 表示,若開發不減速,一年內出現足以推翻政府的超智慧,機率約為三分之一。他主張,前沿實驗室應暫停預訓練與強化學習上的進一步演算法進展,直到他們能保護自己的權重與研究機密;他警告,否則中國可能在智慧爆炸期間竊取這項技術,而實驗室將失去減速的選項。他也表示,目前沒有任何對齊方法控制超智慧的機率能高於五成,希望寄託於 AI 在智慧爆炸期間自行解決這個問題。
本事件熱度走勢
- 可比範圍當前
- 8
- 可比範圍峰值
- 1011月18日 03:00
- 近 24 小時變化
- –
02.557.510
03:0004:0005:0006:0007:0008:00
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。