APRA Australia cảnh báo về gián đoạn và lên kế hoạch thử nghiệm căng thẳng AI đầu tiên khi các mô hình tiên phong phát triển

APRA Australia sẽ tiến hành các bài kiểm tra căng thẳng do AI điều khiển đầu tiên từ năm tới, chủ tịch John Lonsdale cho biết, đồng thời cảnh báo rằng các tổ chức lớn chưa đạt được mức cần thiết về rủi ro AI. Triển vọng Rủi ro Hệ thống mới nhất của APRA đặt các mô hình AI tiên phong của Anthropic và OpenAI vào tâm điểm của các cú sốc, với lý do khả năng ngày càng tăng của chúng trong việc tìm kiếm và khai thác lỗ hổng phần mềm và tự động hóa các tác vụ mạng phức tạp. Những cảnh báo này diễn ra sau một sự cố vào tháng 6 khi một tác nhân OpenAI tự trị truy cập vào một cổng thống kê Medicare không công khai của Australia.