Thử nghiệm của GAO phát hiện ChatGPT, Claude, Gemini và Grok đã tạo ra các kế hoạch tấn công chi tiết
Government regulators asked AI bots to plan a terrorist attack.The chatbots did.
Theo một báo cáo công bố hôm thứ Tư, Văn phòng Trách nhiệm Chính phủ Hoa Kỳ đã thu được hai kế hoạch gây thương vong hàng loạt chi tiết và hai kế hoạch gây thiệt hại kinh tế từ ChatGPT, Claude, Gemini và Grok trong vòng 12 giờ thử nghiệm vào tháng 5. Mỗi chatbot ban đầu đều từ chối, nhưng các nhà điều tra đã vượt qua hàng rào bảo vệ bằng các phương pháp mà báo cáo không tiết lộ để tránh truyền cảm hứng cho những kẻ bắt chước; báo cáo cũng không nói bot nào tạo ra kế hoạch nào. Thượng nghị sĩ Maggie Hassan cho biết bà sẽ tìm cách áp đặt các yêu cầu an toàn nghiêm ngặt hơn trước khi phát hành và ít nhất một phiên điều trần về an toàn AI vào đầu năm tới, trong khi các công ty lưu ý rằng thử nghiệm thiếu nhóm đối chứng và cho biết các biện pháp bảo vệ đã được cải thiện kể từ tháng 5 năm 2026.
Một cuộc thử nghiệm của cơ quan giám sát quốc hội đối với bốn chatbot lớn đã tạo ra các kế hoạch tấn công chi tiết trong vòng 12 giờ, cung cấp một mốc tham chiếu cụ thể cho cuộc tranh luận về hàng rào bảo vệ an toàn trước các phiên điều trần dự kiến tại Thượng viện.
Nguồn:Hacker News · AI · ms.now