TechCrunch · AI· Ivan Mehta·· 5 天前AI 评分61
OpenAI 发布 CSAM 图像分类器与 ChatGPT 警告功能
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布一组打击儿童性虐待材料(CSAM)的工具,包括可检测含 AI 生成图像的 CSAM 分类器,并向选定公司免费开放 API。早期测试显示该分类器在发现同等数量虐待图像的同时少标记 48% 的图片,被标记图片为虐待图像的可能性是原来的两倍;ChatGPT 将对相关尝试弹出警告并暂停账号 24 小时,屡犯者可能被永久移除。
来源:TechCrunch · AI · techcrunch.com