การป้องกันหายนะจาก AI: บทนำสั้นๆ สู่การวิเคราะห์โดยการสังเคราะห์

บทความหนึ่งโต้แย้งว่าการถกเถียงเรื่องความปลอดภัยของ AI กำลังสับสนระหว่าง alignment กับ epistemics พื้นฐาน โดยใช้เหตุการณ์สัญญาณเตือนนิวเคลียร์เท็จของ Petrov ในปี 1983 เพื่อแสดงว่าดาวเทียมโซเวียตไม่ได้ misaligned แต่เพียงขาด world model เท่านั้น บทความนี้ฟื้นฟู Pattern Theory ของ Ulf Grenander ซึ่งมองว่าการวิเคราะห์รูปแบบและการสังเคราะห์รูปแบบใช้แบบจำลองความน่าจะเป็นร่วมกัน และเปรียบเทียบกับวิธี backpropagation ที่เข้ามาแทนที่