AI存在性风险概率仍过于不可靠,无法为政策提供依据
两位研究者认为,当前对AI存在性风险的估计仍过于不可靠,无法为公共政策提供依据,并重新发表了他们此前对p(doom)的解构,因为此类言论正引发前所未有的政策关注。他们主张,与大多数定量预测不同,这些概率没有建立在任何经过验证的模型或方法之上,而归纳、演绎和主观方法在AI存在性风险问题上都行不通。
两位研究者认为,当前对AI存在性风险的估计仍过于不可靠,无法为公共政策提供依据,并重新发表了他们此前对p(doom)的解构,因为此类言论正引发前所未有的政策关注。他们主张,与大多数定量预测不同,这些概率没有建立在任何经过验证的模型或方法之上,而归纳、演绎和主观方法在AI存在性风险问题上都行不通。
RAND发表论文,主张美国应采取“行动自由”战略,在通往超级智能的不确定道路上保留选择空间,该战略建立在包括人机生态系统和AI安全架构在内的四大支柱之上。论文提出了共存、拒止和加速三类共七种原型战略,并识别出危险临近度和共存可行性等五个关键不确定性。另外,研究人员在脑部被耗尽的小鼠幼崽体内培育出了类人脑组织块。