OpenAI phát hành bộ phân loại hình ảnh CSAM và màn hình cảnh báo của ChatGPT
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
OpenAI đã phát hành một bộ phân loại hình ảnh mới có khả năng phát hiện CSAM, bao gồm cả hình ảnh do AI tạo ra, và đang cấp quyền truy cập API miễn phí cho một số công ty được chọn. Trong thử nghiệm ban đầu với đối tác, bộ phân loại này gắn cờ ít hơn 48% số hình ảnh trong khi vẫn tìm ra số lượng hình ảnh lạm dụng tương đương, và những hình ảnh bị gắn cờ có khả năng là hình ảnh lạm dụng cao gấp đôi. ChatGPT cũng sẽ hiển thị màn hình cảnh báo cho người dùng cố gắng nhập các câu lệnh mang tính tình dục hóa trẻ em, cung cấp các nguồn hỗ trợ, và đình chỉ tài khoản trong 24 giờ, với các vi phạm lặp lại có thể dẫn đến việc xóa vĩnh viễn.
Nguồn:TechCrunch · AI · techcrunch.com