TechCrunch · AI· Ivan Mehta·· 50 分钟前AI 评分63
OpenAI 发布 CSAM 图像分类器和 ChatGPT 警告界面
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布了一款新的图像分类器,可检测 CSAM,包括 AI 生成的图像,并向部分公司免费提供该分类器的 API 访问权限。在早期合作伙伴测试中,该分类器标记的图像减少了 48%,同时发现的虐待图像数量相同,且被标记图像属于虐待内容的可能性是原来的两倍。ChatGPT 还将向试图输入将儿童性化的提示词的用户显示警告界面,提供支持资源,并暂停该账户 24 小时,屡次违规可能导致永久封禁。
来源:TechCrunch · AI · techcrunch.com