跳至正文
熱點事件持續更新

OpenAI 發布 CSAM 圖像分類器與 ChatGPT 警告畫面

1 篇報導1 個報導來源42 分鐘前更新

先了解這件事

AI 綜述

OpenAI 發布了一款可偵測兒童性虐待素材(CSAM)的圖像分類器,其中也包含 AI 生成的圖像,並向特定企業免費提供 API 存取權,存取權由計畫管理員管理。OpenAI 表示,在早期合作夥伴測試中,該分類器標記的圖像少了 48%,但找到的虐待圖像數量相同,且被標記的圖像屬於虐待內容的機率是兩倍。 ChatGPT 也會向試圖輸入將兒童性化的提示詞的使用者顯示警告畫面,引導他們尋求專門支持,並暫停該帳號 24 小時。OpenAI 表示,屢次違規可能導致帳號被永久移除。

AI 依報導生成 · 25 分鐘前更新

報導時間線

沿著報導,了解事件的不同側面。

11月17日
  1. TechCrunch · AI
    OpenAI 推出 CSAM 圖像分類器與 ChatGPT 警告畫面

    OpenAI 發布了一款新的圖像分類器,可偵測 CSAM,包括 AI 生成的圖像,並向部分公司提供免費的 API 存取權限。在早期合作夥伴測試中,該分類器標記的圖像數量少了 48%,但找到的虐待圖像數量相同,且被標記的圖像為虐待圖像的可能性是兩倍。ChatGPT 也會向試圖輸入將兒童性化的提示詞的用戶顯示警告畫面,提供支援資源,並暫停該帳號 24 小時,屢次違規可能導致永久移除。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。