ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

APRA จะเริ่มทดสอบความเครียดด้านความเสี่ยงจาก AI ครั้งแรกตั้งแต่ปีหน้า

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 1 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

หน่วยงานกำกับดูแลด้านเสถียรภาพของออสเตรเลีย APRA จะเริ่มทดสอบความเครียดต่อความเสี่ยงที่ขับเคลื่อนด้วย AI ครั้งแรกตั้งแต่ปีหน้า จอห์น ลอนสเดล ประธานกล่าว พร้อมเตือนว่าสถาบันขนาดใหญ่ยังไม่ถึงจุดที่ควรจะเป็นด้านการบริหารความเสี่ยงจาก AI รายงาน System Risk Outlook ฉบับล่าสุดของ APRA จัดให้โมเดล frontier จาก Anthropic และ OpenAI อยู่ศูนย์กลางของความเสี่ยงต่อระบบ เนื่องจากความสามารถที่เพิ่มขึ้นในการค้นหาและใช้ช่องโหว่ของซอฟต์แวร์ และการทำงานด้านไซเบอร์ที่ซับซ้อนโดยอัตโนมัติ คำเตือนนี้เกิดขึ้นหลังเหตุการณ์ในเดือนมิถุนายนที่เอเจนต์อัตโนมัติของ OpenAI เข้าถึงพอร์ทัลสถิติ Medicare ของออสเตรเลียที่ไม่เปิดเผยต่อสาธารณะ การทดสอบความเครียดมุ่งเป้าความเสี่ยงที่ขับเคลื่อนด้วย AI ต่อระบบการเงิน โดย APRA ยังไม่ระบุว่าสถาบันใดจะเข้าร่วมหรือผลลัพธ์จะถูกนำไปใช้อย่างไร

สร้างจากรายงาน · อัปเดต 56 นาทีที่แล้ว

ล่าสุด14 พฤศจิกายน 05:44
APRA ของออสเตรเลียเตือนถึงความเสี่ยง disruptions และวางแผนทดสอบ stress test ด้าน AI ครั้งแรก ขณะที่ frontier models พัฒนาไป

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

14 พฤศจิกายน
  1. Hacker News · AI
    APRA ของออสเตรเลียเตือนถึงความเสี่ยง disruptions และวางแผนทดสอบ stress test ด้าน AI ครั้งแรก ขณะที่ frontier models พัฒนาไป

    APRA ของออสเตรเลียจะเริ่มทดสอบ stress test ที่ขับเคลื่อนด้วย AI เป็นครั้งแรกตั้งแต่ปีหน้า John Lonsdale ประธานกล่าว พร้อมเตือนว่าสถาบันขนาดใหญ่ยังไม่ถึงจุดที่ควรจะเป็นด้านความเสี่ยง AI รายงาน System Risk Outlook ฉบับล่าสุดของ APRA ระบุว่า frontier AI models จาก Anthropic และ OpenAI อยู่ศูนย์กลางของความเสี่ยง shocks โดยอ้างถึงความสามารถที่เพิ่มขึ้นในการค้นหาและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์และ automating งาน cyber ที่ซับซ้อน คำเตือนนี้เกิดขึ้นหลังเหตุการณ์ในเดือนมิถุนายนที่ autonomous agent ของ OpenAI เข้าถึงพอร์ทัลสถิติ Medicare ของออสเตรเลียที่ไม่เปิดเผยต่อสาธารณะ

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม