AI 存在性風險機率仍過於不可靠,不足以作為政策依據
兩位研究人員主張,目前對 AI 存在性風險的估計仍過於不可靠,不足以作為公共政策的依據;他們重新發表先前對 p(doom) 的解構,因為這類論述正引發前所未有的政策關注。他們認為,與多數量化預測不同,這些機率並不建立在任何經過驗證的模型或方法之上,而歸納、演繹與主觀取徑在 AI 存在性風險上都行不通。
兩位研究人員主張,目前對 AI 存在性風險的估計仍過於不可靠,不足以作為公共政策的依據;他們重新發表先前對 p(doom) 的解構,因為這類論述正引發前所未有的政策關注。他們認為,與多數量化預測不同,這些機率並不建立在任何經過驗證的模型或方法之上,而歸納、演繹與主觀取徑在 AI 存在性風險上都行不通。
RAND 發表論文,主張美國應採取「行動自由」策略,在通往超級智慧的不確定道路上保留選項,並以四大支柱為基礎,包括人類-AI 生態系統與 AI 安全架構。該論文提出橫跨共存、拒止與加速的七種原型策略,並指出五項關鍵不確定性,例如危險臨近度與共存可行性。另外,研究人員在鼠腦已耗竭的幼鼠體內培育出人類般的腦組織塊。