Paul Christiano: มีโอกาส 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์จะเกิดขึ้นภายในหนึ่งปี และเรียกร้องให้ห้องแล็บหยุดชั่วคราว
เริ่มตรงนี้
Paul Christiano หัวหน้าศูนย์ Alignment Research Center และอดีตกรรมการของ OpenAI กล่าวว่ามีโอกาสประมาณ 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์ซึ่งสามารถโค่นล้มรัฐบาลได้จะเกิดขึ้นภายในหนึ่งปี หากการพัฒนายังไม่ชะลอลง เขาโต้แย้งว่าห้องแล็บชั้นนำควรหยุดความก้าวหน้าด้านอัลกอริทึมในการพรีเทรนและ reinforcement learning ต่อไป จนกว่าจะสามารถปกป้องน้ำหนักโมเดลและความลับทางการวิจัยของตนได้ โดยเตือนว่ามิฉะนั้นจีนอาจขโมยเทคโนโลยีไประหว่างการระเบิดของสติปัญญา และห้องแล็บจะสูญเสียทางเลือกในการชะลอความเร็ว Christiano ยังกล่าวอีกว่าไม่มีแนวทาง alignment ในปัจจุบันใดที่มีโอกาสมากกว่าครึ่งในการควบคุมซูเปอร์อินเทลลิเจนซ์ และความหวังคือให้ AI แก้ปัญหานี้ได้ในระหว่างการระเบิดนั้นเอง
สร้างจากรายงาน · อัปเดต 6 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIPaul Christiano: โอกาส 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์จะมาถึงภายในหนึ่งปี และแล็บควรหยุดชะงักตอนนี้
Paul Christiano หัวหน้าศูนย์วิจัย Alignment Research Center และอดีตกรรมการของ OpenAI กล่าวว่ามีโอกาสประมาณ 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์ซึ่งสามารถโค่นล้มรัฐบาลได้จะมาถึงภายในหนึ่งปี หากการพัฒนายังไม่ชะลอลง เขาโต้แย้งว่าแล็บชั้นนำควรหยุดความก้าวหน้าด้านอัลกอริทึมในการพรีเทรนและ RL ต่อไป จนกว่าพวกเขาจะสามารถปกป้องน้ำหนักโมเดลและความลับทางการวิจัยได้ โดยเตือนว่ามิฉะนั้นจีนอาจขโมยเทคโนโลยีไประหว่างการระเบิดของความฉลาด และแล็บจะสูญเสียทางเลือกในการชะลอความเร็ว เขายังกล่าวอีกว่าไม่มีแนวทาง Alignment ในปัจจุบันใดที่มีโอกาสมากกว่าครึ่งในการควบคุมซูเปอร์อินเทลลิเจนซ์ และความหวังคือให้ AI แก้ปัญหานี้ระหว่างการระเบิดนั้นเอง
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 8
- จุดสูงสุดในช่วงที่เทียบได้
- 1018 พฤศจิกายน 03:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู