ข้ามไปที่เนื้อหา
TechCrunch · AI· Ivan Mehta·· 50 นาทีที่แล้วคะแนน AI63

OpenAI เปิดตัวตัวจำแนกภาพ CSAM และหน้าจอเตือนใน ChatGPT

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

สรุปโดย AI

OpenAI เปิดตัวตัวจำแนกภาพใหม่ที่ตรวจจับ CSAM รวมถึงภาพที่สร้างโดย AI และให้บริษัทที่เลือกเข้าถึง API ฟรี ในการทดสอบกับพันธมิตรช่วงแรก ตัวจำแนกภาพติดธงภาพน้อยลง 48% ขณะที่พบภาพล่วงละเมิดในจำนวนเท่ากัน และภาพที่ถูกติดธงมีโอกาสเป็นภาพล่วงละเมิดสูงเป็นสองเท่า ChatGPT จะแสดงหน้าจอเตือนแก่ผู้ใช้ที่พยายามป้อนพรอมป์ต์ในทางเพศกับเด็ก ให้ข้อมูลทรัพยากรสนับสนุน และระงับบัญชีเป็นเวลา 24 ชั่วโมง โดยการกระทำผิดซ้ำอาจนำไปสู่การลบบัญชีอย่างถาวร

แหล่งข่าว:TechCrunch · AI · techcrunch.com