ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

OpenAI releases CSAM image classifier and ChatGPT warning screens

เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 42 นาทีที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

OpenAI released an image classifier that detects child sexual abuse material (CSAM), including AI-generated images, and is giving select companies free API access to it, with access managed by program administrators. In early partner testing, OpenAI says the classifier flagged 48% fewer images while finding the same number of abusive images, and flagged images were twice as likely to be abusive. ChatGPT will also show a warning screen to users who attempt prompts that sexualize children, point them toward specialized support, and suspend the account for 24 hours. OpenAI said repeated offenses could lead to permanent account removal.

สร้างจากรายงาน · อัปเดต 25 นาทีที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

17 พฤศจิกายน
  1. TechCrunch · AI
    OpenAI เปิดตัวตัวจำแนกภาพ CSAM และหน้าจอเตือนใน ChatGPT

    OpenAI เปิดตัวตัวจำแนกภาพใหม่ที่ตรวจจับ CSAM รวมถึงภาพที่สร้างโดย AI และให้บริษัทที่เลือกเข้าถึง API ฟรี ในการทดสอบกับพันธมิตรช่วงแรก ตัวจำแนกภาพติดธงภาพน้อยลง 48% ขณะที่พบภาพล่วงละเมิดในจำนวนเท่ากัน และภาพที่ถูกติดธงมีโอกาสเป็นภาพล่วงละเมิดสูงเป็นสองเท่า ChatGPT จะแสดงหน้าจอเตือนแก่ผู้ใช้ที่พยายามป้อนพรอมป์ต์ในทางเพศกับเด็ก ให้ข้อมูลทรัพยากรสนับสนุน และระงับบัญชีเป็นเวลา 24 ชั่วโมง โดยการกระทำผิดซ้ำอาจนำไปสู่การลบบัญชีอย่างถาวร

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม