Tới nội dung
Sự việc nóngĐang diễn ra

OpenAI releases CSAM image classifier and ChatGPT warning screens

Nội dung này chưa có bằng ngôn ngữ của bạn; đang hiển thị bằng English.

1 bài viết1 nguồn đưa tinCập nhật 42 phút trước

Bắt đầu từ đây

Tóm tắt AI

OpenAI released an image classifier that detects child sexual abuse material (CSAM), including AI-generated images, and is giving select companies free API access to it, with access managed by program administrators. In early partner testing, OpenAI says the classifier flagged 48% fewer images while finding the same number of abusive images, and flagged images were twice as likely to be abusive. ChatGPT will also show a warning screen to users who attempt prompts that sexualize children, point them toward specialized support, and suspend the account for 24 hours. OpenAI said repeated offenses could lead to permanent account removal.

Tạo từ các bài viết · cập nhật 25 phút trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

17 tháng 11
  1. TechCrunch · AI
    OpenAI phát hành bộ phân loại hình ảnh CSAM và màn hình cảnh báo của ChatGPT

    OpenAI đã phát hành một bộ phân loại hình ảnh mới có khả năng phát hiện CSAM, bao gồm cả hình ảnh do AI tạo ra, và đang cấp quyền truy cập API miễn phí cho một số công ty được chọn. Trong thử nghiệm ban đầu với đối tác, bộ phân loại này gắn cờ ít hơn 48% số hình ảnh trong khi vẫn tìm ra số lượng hình ảnh lạm dụng tương đương, và những hình ảnh bị gắn cờ có khả năng là hình ảnh lạm dụng cao gấp đôi. ChatGPT cũng sẽ hiển thị màn hình cảnh báo cho người dùng cố gắng nhập các câu lệnh mang tính tình dục hóa trẻ em, cung cấp các nguồn hỗ trợ, và đình chỉ tài khoản trong 24 giờ, với các vi phạm lặp lại có thể dẫn đến việc xóa vĩnh viễn.

Độ nóng của sự việc này

Chưa đủ quan sát liên tục để vẽ xu hướng.