跳到正文
Hacker News · AI·· 6 小时前AI 评分64

Paul Christiano:一年内出现超级智能的概率为三分之一,实验室应立即暂停

Paul Christiano: 12 months away from AIs that can overthrow the government

AI 导读

Paul Christiano,Alignment Research Center负责人、近期担任OpenAI董事会成员,他表示,如果发展不减速,一年内出现能够推翻政府的超级智能的概率约为三分之一。他主张,前沿实验室应暂停在预训练和强化学习上的进一步算法进展,直到它们能够保护自己的权重和研究机密,并警告否则中国可能在智能爆炸中途窃取技术,实验室将失去减速的选项。他还表示,目前没有任何对齐方法有超过五成的把握控制超级智能,希望在于AI在爆炸过程中自行解决这一问题。

来源:Hacker News · AI · dwarkesh.com