Paul Christiano:一年内出现超级智能的概率为三分之一,呼吁实验室暂停
热点事件持续更新
Paul Christiano:一年内出现超级智能的概率为三分之一,呼吁实验室暂停
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
Paul Christiano,Alignment Research Center 负责人、近期曾任 OpenAI 董事会成员,他表示,如果发展不减速,一年内出现能够推翻政府的超级智能的概率约为三分之一。他主张,前沿实验室应暂停在预训练和强化学习上的进一步算法进展,直到它们能够保护自己的模型权重和研究机密,并警告说,否则中国可能在智能爆炸中途窃取这项技术,而实验室将失去减速的选项。 Christiano 还表示,目前没有任何对齐方法控制超级智能的胜算超过一半,希望在于 AI 在爆炸过程中自行解决这个问题。
AI 根据报道生成 · 6 小时前更新
最新进展11月18日 01:58
Paul Christiano:一年内出现超级智能的概率为三分之一,实验室应立即暂停报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- Hacker News · AIPaul Christiano:一年内出现超级智能的概率为三分之一,实验室应立即暂停
Paul Christiano,Alignment Research Center负责人、近期担任OpenAI董事会成员,他表示,如果发展不减速,一年内出现能够推翻政府的超级智能的概率约为三分之一。他主张,前沿实验室应暂停在预训练和强化学习上的进一步算法进展,直到它们能够保护自己的权重和研究机密,并警告否则中国可能在智能爆炸中途窃取技术,实验室将失去减速的选项。他还表示,目前没有任何对齐方法有超过五成的把握控制超级智能,希望在于AI在爆炸过程中自行解决这一问题。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1011月18日 03:00
- 近 24 小时变化
- –
02.557.510
181818181818
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。