TechCrunch · AI· Ivan Mehta·· 50 นาทีที่แล้วคะแนน AI63
OpenAI เปิดตัวตัวจำแนกภาพ CSAM และหน้าจอเตือนใน ChatGPT
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
สรุปโดย AI
OpenAI เปิดตัวตัวจำแนกภาพใหม่ที่ตรวจจับ CSAM รวมถึงภาพที่สร้างโดย AI และให้บริษัทที่เลือกเข้าถึง API ฟรี ในการทดสอบกับพันธมิตรช่วงแรก ตัวจำแนกภาพติดธงภาพน้อยลง 48% ขณะที่พบภาพล่วงละเมิดในจำนวนเท่ากัน และภาพที่ถูกติดธงมีโอกาสเป็นภาพล่วงละเมิดสูงเป็นสองเท่า ChatGPT จะแสดงหน้าจอเตือนแก่ผู้ใช้ที่พยายามป้อนพรอมป์ต์ในทางเพศกับเด็ก ให้ข้อมูลทรัพยากรสนับสนุน และระงับบัญชีเป็นเวลา 24 ชั่วโมง โดยการกระทำผิดซ้ำอาจนำไปสู่การลบบัญชีอย่างถาวร
แหล่งข่าว:TechCrunch · AI · techcrunch.com