ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

Paul Christiano: มีโอกาส 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์จะเกิดขึ้นภายในหนึ่งปี และเรียกร้องให้ห้องแล็บหยุดชั่วคราว

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 6 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Paul Christiano หัวหน้าศูนย์ Alignment Research Center และอดีตกรรมการของ OpenAI กล่าวว่ามีโอกาสประมาณ 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์ซึ่งสามารถโค่นล้มรัฐบาลได้จะเกิดขึ้นภายในหนึ่งปี หากการพัฒนายังไม่ชะลอลง เขาโต้แย้งว่าห้องแล็บชั้นนำควรหยุดความก้าวหน้าด้านอัลกอริทึมในการพรีเทรนและ reinforcement learning ต่อไป จนกว่าจะสามารถปกป้องน้ำหนักโมเดลและความลับทางการวิจัยของตนได้ โดยเตือนว่ามิฉะนั้นจีนอาจขโมยเทคโนโลยีไประหว่างการระเบิดของสติปัญญา และห้องแล็บจะสูญเสียทางเลือกในการชะลอความเร็ว Christiano ยังกล่าวอีกว่าไม่มีแนวทาง alignment ในปัจจุบันใดที่มีโอกาสมากกว่าครึ่งในการควบคุมซูเปอร์อินเทลลิเจนซ์ และความหวังคือให้ AI แก้ปัญหานี้ได้ในระหว่างการระเบิดนั้นเอง

สร้างจากรายงาน · อัปเดต 6 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

18 พฤศจิกายน
  1. Hacker News · AI
    Paul Christiano: โอกาส 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์จะมาถึงภายในหนึ่งปี และแล็บควรหยุดชะงักตอนนี้

    Paul Christiano หัวหน้าศูนย์วิจัย Alignment Research Center และอดีตกรรมการของ OpenAI กล่าวว่ามีโอกาสประมาณ 1 ใน 3 ที่ซูเปอร์อินเทลลิเจนซ์ซึ่งสามารถโค่นล้มรัฐบาลได้จะมาถึงภายในหนึ่งปี หากการพัฒนายังไม่ชะลอลง เขาโต้แย้งว่าแล็บชั้นนำควรหยุดความก้าวหน้าด้านอัลกอริทึมในการพรีเทรนและ RL ต่อไป จนกว่าพวกเขาจะสามารถปกป้องน้ำหนักโมเดลและความลับทางการวิจัยได้ โดยเตือนว่ามิฉะนั้นจีนอาจขโมยเทคโนโลยีไประหว่างการระเบิดของความฉลาด และแล็บจะสูญเสียทางเลือกในการชะลอความเร็ว เขายังกล่าวอีกว่าไม่มีแนวทาง Alignment ในปัจจุบันใดที่มีโอกาสมากกว่าครึ่งในการควบคุมซูเปอร์อินเทลลิเจนซ์ และความหวังคือให้ AI แก้ปัญหานี้ระหว่างการระเบิดนั้นเอง

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
8
จุดสูงสุดในช่วงที่เทียบได้
1018 พฤศจิกายน 03:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู