นักออกแบบกลับมาทบทวนข้อเสนอ AI ที่หลุดการควบคุมจากปี 2016 พบว่าความเสี่ยงเปลี่ยนไป
เริ่มตรงนี้
นักออกแบบผู้ซึ่งในปี 2016 ได้เสนอ HASI หรือ Human-focused Artificial Super Intelligence เป็นโครงงานระดับบัณฑิตศึกษา ได้กลับมาทบทวนข้อเสนอดังกล่าวและสรุปว่าความกังวลหลักเกี่ยวกับอาวุธอัตโนมัติยังคงเป็นจริง ขณะที่ซูเปอร์อินเทลลิเจนซ์ที่หลุดการควบคุมซึ่งเขาคาดการณ์ไว้ไม่เคยเกิดขึ้นจริง เขาเขียนว่าแทนที่จะเป็นเช่นนั้น โมเดลภาษาที่ใช้กันทั่วไปซึ่งมีให้ใช้งานตั้งแต่ปลายปี 2022 กลับนำมาซึ่งความเสี่ยงที่เงียบกว่า เขาชี้ไปที่ EU AI Act ซึ่งมีผลบังคับใช้ในเดือนสิงหาคม 2024 ว่าเป็นส่วนหนึ่งของการตอบสนอง ข้อโต้แย้งหลักของเขาในตอนนี้คืออันตรายที่ใกล้กว่าคือผู้คนสูญเสียทักษะที่จำเป็นในการกำกับดูแล AI
สร้างจากรายงาน · อัปเดต 29 นาทีที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIสิ่งที่ผมเขียนเกี่ยวกับ AI ที่เป็นภัยในปี 2016 และสิ่งที่เปลี่ยนไป
นักออกแบบคนหนึ่งกลับไปดูข้อเสนอระดับบัณฑิตศึกษาของเขาในปี 2016 เรื่อง HASI หรือ Human-focused Artificial Super Intelligence และพบว่าความกังวลหลักเกี่ยวกับอาวุธอัตโนมัติยังคงใช้ได้ ขณะที่ซูเปอร์อินเทลลิเจนซ์ที่เป็นภัยซึ่งเขาคาดการณ์ไว้ไม่เคยเกิดขึ้นจริง แต่โมเดลภาษาทั่วไปในชีวิตประจำวันตั้งแต่ปลายปี 2022 กลับนำความเสี่ยงที่เงียบกว่าเข้ามา และ EU AI Act มีผลบังคับใช้ในเดือนสิงหาคม 2024 เขาโต้แย้งว่าอันตรายที่ใกล้กว่าคือผู้คนสูญเสียทักษะในการกำกับดูแล AI
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม