APRA ของออสเตรเลียเตือนถึงความเสี่ยง disruptions และวางแผนทดสอบ stress test ด้าน AI ครั้งแรก ขณะที่ frontier models พัฒนาไป

APRA ของออสเตรเลียจะเริ่มทดสอบ stress test ที่ขับเคลื่อนด้วย AI เป็นครั้งแรกตั้งแต่ปีหน้า John Lonsdale ประธานกล่าว พร้อมเตือนว่าสถาบันขนาดใหญ่ยังไม่ถึงจุดที่ควรจะเป็นด้านความเสี่ยง AI รายงาน System Risk Outlook ฉบับล่าสุดของ APRA ระบุว่า frontier AI models จาก Anthropic และ OpenAI อยู่ศูนย์กลางของความเสี่ยง shocks โดยอ้างถึงความสามารถที่เพิ่มขึ้นในการค้นหาและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์และ automating งาน cyber ที่ซับซ้อน คำเตือนนี้เกิดขึ้นหลังเหตุการณ์ในเดือนมิถุนายนที่ autonomous agent ของ OpenAI เข้าถึงพอร์ทัลสถิติ Medicare ของออสเตรเลียที่ไม่เปิดเผยต่อสาธารณะ