Hacker News · AI·· 6 ชม. ที่แล้วคะแนน AI64
Paul Christiano: โอกาส 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์จะมาถึงภายในหนึ่งปี และแล็บควรหยุดชะงักตอนนี้
Paul Christiano: 12 months away from AIs that can overthrow the government
สรุปโดย AI
Paul Christiano หัวหน้าศูนย์วิจัย Alignment Research Center และอดีตกรรมการของ OpenAI กล่าวว่ามีโอกาสประมาณ 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์ซึ่งสามารถโค่นล้มรัฐบาลได้จะมาถึงภายในหนึ่งปี หากการพัฒนายังไม่ชะลอลง เขาโต้แย้งว่าแล็บชั้นนำควรหยุดความก้าวหน้าด้านอัลกอริทึมในการพรีเทรนและ RL ต่อไป จนกว่าพวกเขาจะสามารถปกป้องน้ำหนักโมเดลและความลับทางการวิจัยได้ โดยเตือนว่ามิฉะนั้นจีนอาจขโมยเทคโนโลยีไประหว่างการระเบิดของความฉลาด และแล็บจะสูญเสียทางเลือกในการชะลอความเร็ว เขายังกล่าวอีกว่าไม่มีแนวทาง Alignment ในปัจจุบันใดที่มีโอกาสมากกว่าครึ่งในการควบคุมซูเปอร์อินเทลลิเจนซ์ และความหวังคือให้ AI แก้ปัญหานี้ระหว่างการระเบิดนั้นเอง
แหล่งข่าว:Hacker News · AI · dwarkesh.com