跳到正文
TechCrunch · AI· Ivan Mehta·· 5 天前AI 评分61

OpenAI 发布 CSAM 图像分类器与 ChatGPT 警告功能

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI 导读

OpenAI 发布一组打击儿童性虐待材料(CSAM)的工具,包括可检测含 AI 生成图像的 CSAM 分类器,并向选定公司免费开放 API。早期测试显示该分类器在发现同等数量虐待图像的同时少标记 48% 的图片,被标记图片为虐待图像的可能性是原来的两倍;ChatGPT 将对相关尝试弹出警告并暂停账号 24 小时,屡犯者可能被永久移除。

来源:TechCrunch · AI · techcrunch.com