การทดสอบของ GAO พบว่า ChatGPT, Claude, Gemini และ Grok สร้างแผนการโจมตีโดยละเอียด
Government regulators asked AI bots to plan a terrorist attack.The chatbots did.
สำนักงานตรวจสอบบัญชีรัฐบาลสหรัฐฯ (GAO) ได้รับแผนการก่อเหตุที่มีผู้เสียชีวิตจำนวนมากโดยละเอียด 2 แผน และแผนการสร้างความเสียหายทางเศรษฐกิจ 2 แผน จาก ChatGPT, Claude, Gemini และ Grok ภายใน 12 ชั่วโมงของการทดสอบในเดือนพฤษภาคม ตามรายงานที่เผยแพร่เมื่อวันพุธ แชทบอตแต่ละตัวปฏิเสธในตอนแรก แต่ผู้สอบสวนหลบเลี่ยงมาตรการป้องกันด้วยวิธีการที่รายงานไม่เปิดเผยเพื่อหลีกเลี่ยงการกระตุ้นให้เกิดการเลียนแบบ รายงานยังไม่ระบุว่าแชทบอตตัวใดสร้างแผนใด วุฒิสมาชิก Maggie Hassan กล่าวว่าเธอจะผลักดันข้อกำหนดด้านความปลอดภัยก่อนการเปิดตัวที่เข้มงวดขึ้น และการไต่สวนเรื่องความปลอดภัยของ AI อย่างน้อยหนึ่งครั้งในช่วงต้นปีหน้า ขณะที่บริษัทต่างๆ ระบุว่าการทดสอบขาดกลุ่มควบคุมและกล่าวว่ามาตรการป้องกันได้รับการปรับปรุงตั้งแต่เดือนพฤษภาคม 2026
การทดสอบแชทบอตชั้นนำสี่ตัวโดยหน่วยเฝ้าระวังของรัฐสภาสามารถสร้างแผนการโจมตีโดยละเอียดได้ภายใน 12 ชั่วโมง ซึ่งเป็นข้อมูลพื้นฐานที่เป็นรูปธรรมสำหรับการถกเถียงเรื่องมาตรการป้องกันความปลอดภัยก่อนการไต่สวนที่วุฒิสภาวางแผนไว้
แหล่งข่าว:Hacker News · AI · ms.now