跳至正文
熱點事件持續更新

Paul Christiano:一年內出現超智慧的機率為三分之一,並呼籲實驗室暫停

1 篇報導1 個報導來源6 小時前更新

先了解這件事

AI 綜述

Paul Christiano,Alignment Research Center 負責人、近期曾任 OpenAI 董事會成員,表示若發展不放緩,一年內出現足以推翻政府的超智慧的機率約為三分之一。他主張前沿實驗室應暫停預訓練與強化學習上的進一步演算法進展,直到他們能保護自己的模型權重與研究機密,並警告否則中國可能在智慧爆炸期間竊取該技術,而實驗室將失去放慢腳步的選項。 Christiano 也表示,目前沒有任何對齊方法在控制超智慧上擁有超過五成的勝算,而希望在於 AI 能在智慧爆炸期間自行解決這個問題。

AI 依報導生成 · 6 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月18日
  1. Hacker News · AI
    Paul Christiano:一年內出現超智慧的機率為三分之一,實驗室現在就該暫停

    對齊研究中心(Alignment Research Center)負責人、近期曾任 OpenAI 董事會成員的 Paul Christiano 表示,若開發不減速,一年內出現足以推翻政府的超智慧,機率約為三分之一。他主張,前沿實驗室應暫停預訓練與強化學習上的進一步演算法進展,直到他們能保護自己的權重與研究機密;他警告,否則中國可能在智慧爆炸期間竊取這項技術,而實驗室將失去減速的選項。他也表示,目前沒有任何對齊方法控制超智慧的機率能高於五成,希望寄託於 AI 在智慧爆炸期間自行解決這個問題。

本事件熱度走勢

可比範圍當前
8
可比範圍峰值
1011月18日 03:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。