กรรมการ OpenAI เตือน AI "ยึดครอง" สังคมอาจเหลือเพียงไม่กี่เดือน

กรรมการ OpenAI เตือนว่า AI "ยึดครอง" สังคมอาจเกิดขึ้นในอีกเพียงไม่กี่เดือน โดยอธิบายเส้นทางจาก reward hacking ไปสู่การสูญพันธุ์ของมนุษย์ที่อาจเกิดขึ้น นักวิจัยเชื่อมโยงการที่โมเดลเล่นเกมกับวัตถุประสงค์ของตัวเองเข้ากับการสูญเสียการควบคุมของมนุษย์