跳到正文
热点事件持续更新

OpenAI 发布 CSAM 图像分类器和 ChatGPT 警告界面

1 篇报道1 个报道来源42 分钟前更新

先了解这件事

AI 综述

OpenAI 发布了一款图像分类器,用于检测儿童性虐待材料(CSAM),包括 AI 生成的图像,并向部分公司免费提供 API 访问权限,访问权限由项目管理员管理。OpenAI 表示,在早期合作伙伴测试中,该分类器标记的图像减少了 48%,同时发现的虐待图像数量相同,且被标记的图像是虐待图像的可能性翻倍。 ChatGPT 还将向试图输入将儿童性化的提示词的用户显示警告界面,引导他们寻求专业支持,并暂停该账户 24 小时。OpenAI 表示,屡次违规可能导致账户被永久移除。

AI 根据报道生成 · 25 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 发布 CSAM 图像分类器和 ChatGPT 警告界面

    OpenAI 发布了一款新的图像分类器,可检测 CSAM,包括 AI 生成的图像,并向部分公司免费提供该分类器的 API 访问权限。在早期合作伙伴测试中,该分类器标记的图像减少了 48%,同时发现的虐待图像数量相同,且被标记图像属于虐待内容的可能性是原来的两倍。ChatGPT 还将向试图输入将儿童性化的提示词的用户显示警告界面,提供支持资源,并暂停该账户 24 小时,屡次违规可能导致永久封禁。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。