跳到正文
热点事件持续更新

Paul Christiano:一年内出现超级智能的概率为三分之一,呼吁实验室暂停

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Paul Christiano,Alignment Research Center 负责人、近期曾任 OpenAI 董事会成员,他表示,如果发展不减速,一年内出现能够推翻政府的超级智能的概率约为三分之一。他主张,前沿实验室应暂停在预训练和强化学习上的进一步算法进展,直到它们能够保护自己的模型权重和研究机密,并警告说,否则中国可能在智能爆炸中途窃取这项技术,而实验室将失去减速的选项。 Christiano 还表示,目前没有任何对齐方法控制超级智能的胜算超过一半,希望在于 AI 在爆炸过程中自行解决这个问题。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. Hacker News · AI
    Paul Christiano:一年内出现超级智能的概率为三分之一,实验室应立即暂停

    Paul Christiano,Alignment Research Center负责人、近期担任OpenAI董事会成员,他表示,如果发展不减速,一年内出现能够推翻政府的超级智能的概率约为三分之一。他主张,前沿实验室应暂停在预训练和强化学习上的进一步算法进展,直到它们能够保护自己的权重和研究机密,并警告否则中国可能在智能爆炸中途窃取技术,实验室将失去减速的选项。他还表示,目前没有任何对齐方法有超过五成的把握控制超级智能,希望在于AI在爆炸过程中自行解决这一问题。

本事件热度走势

可比范围当前
8
可比范围峰值
1011月18日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。