บทความ: การถกเถียงเรื่องความปลอดภัยของ AI สับสนระหว่าง alignment กับ epistemics
เริ่มตรงนี้
บทความหนึ่งโต้แย้งว่าการถกเถียงเรื่องความปลอดภัยของ AI สับสนระหว่าง alignment กับ epistemics พื้นฐาน โดยใช้เหตุการณ์สัญญาณเตือนนิวเคลียร์เท็จของ Petrov ในปี 1983 เพื่อแสดงว่าดาวเทียมของสหภาพโซเวียตไม่ได้ misaligned แต่เพียงขาด world model เท่านั้น บทความนี้ฟื้น Pattern Theory ของ Ulf Grenander ซึ่งมองว่าการวิเคราะห์รูปแบบและการสังเคราะห์รูปแบบใช้แบบจำลองความน่าจะเป็นเดียวกัน และเปรียบเทียบกับวิธี backpropagation ที่เข้ามาแทนที่
สร้างจากรายงาน · อัปเดต 1 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIการป้องกันหายนะจาก AI: บทนำสั้นๆ สู่การวิเคราะห์โดยการสังเคราะห์
บทความหนึ่งโต้แย้งว่าการถกเถียงเรื่องความปลอดภัยของ AI กำลังสับสนระหว่าง alignment กับ epistemics พื้นฐาน โดยใช้เหตุการณ์สัญญาณเตือนนิวเคลียร์เท็จของ Petrov ในปี 1983 เพื่อแสดงว่าดาวเทียมโซเวียตไม่ได้ misaligned แต่เพียงขาด world model เท่านั้น บทความนี้ฟื้นฟู Pattern Theory ของ Ulf Grenander ซึ่งมองว่าการวิเคราะห์รูปแบบและการสังเคราะห์รูปแบบใช้แบบจำลองความน่าจะเป็นร่วมกัน และเปรียบเทียบกับวิธี backpropagation ที่เข้ามาแทนที่
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม