OpenAI发布CSAM检测工具并加严ChatGPT处置
先了解这件事
OpenAI发布一款可检测儿童性虐待材料(CSAM)的图像分类器,称也能识别AI生成图像,并通过API免费向通过审核的部分公司或机构开放。该工具与NCMEC合作开发,OpenAI称NCMEC参与了训练、评估和部署;早期合作测试中,分类器在找到同样数量违规图像的同时减少48%的标记量,被标记图像为违规内容的概率提高一倍。OpenAI称这是首个带AI生成标记且广泛可用的CSAM分类器。 ChatGPT对尝试此类提示的用户显示警告,引导其寻求专业支持,并暂停账号访问24小时;OpenAI称首次违规即触发该暂停,屡次违规可能导致账号被永久移除。有报道称反复违规还可能延长封号直至永封或被举报至有关部门。 OpenAI还为处理儿童安全事务的执法机构提供专用插件、调查工具和复杂数据分析等功能,访问权限由项目管理员管理;同时发布开发者指南,并与Tech Coalition和ROOST合作扩大工具可用范围。
AI 根据报道生成 · 19 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- RadarAIOpenAI 推出 CSAM 检测工具,误标记图像减少 48%
OpenAI 宣布推出儿童性虐待内容(CSAM)检测工具,通过 OpenAI API 向经审核机构免费开放。新图像分类器可减少 48% 误标记图像,标记图像实际含虐待内容的可能性约为原来的两倍,NCMEC 参与了训练、评估和部署。ChatGPT 同时新增警告,用户发出相关请求后账号将被暂时停用 24 小时,反复违规可能延长封号直至永封或举报至有关部门。
- The Verge · AIOpenAI 发布 CSAM 分类器,可识别 AI 生成内容并免费开放给审核机构
OpenAI 在华盛顿发布会上宣布一款 CSAM 分类器,称其能更好地识别儿童性虐待图像并判断是否为 AI 生成,误报图像减少 48%,识别出的图像含虐待材料的概率翻倍。该分类器将免费开放给通过审核的机构,OpenAI 称这是首个带 AI 生成标记且广泛可用的 CSAM 分类器。同时 ChatGPT 对试图生成此类内容的用户新增警告,首次违规将暂停访问 24 小时并提示账号可能被永久关闭。
- RadarAIOpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容
OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。
- RadarAIOpenAI 发布免费检测工具,可识别包括 AI 生成图像在内的儿童性虐待材料
OpenAI 向通过审核的组织免费发布一款检测工具,用于识别儿童性虐待材料,包括 AI 生成的图像。该分类器在与 National Center for Missing & Exploited Children 合作下开发,OpenAI 同时在 ChatGPT 中加入警告、发布开发者指南并支持儿童安全调查人员,还与 Tech Coalition 和 ROOST 合作扩大可用范围。
- RadarAIOpenAI 发布 CSAM 图像分类器,并为 ChatGPT 增加警告与封禁机制
OpenAI 发布可检测 AI 生成图片的 CSAM 图像分类器,与 NCMEC 合作开发,并通过 API 免费向部分企业开放。早期测试中,该分类器在识别出同样数量违规图片的情况下少标记 48% 的图片,被标记图片中违规比例翻倍。ChatGPT 同时新增警告界面,对试图生成此类内容的用户提示并暂停账号 24 小时,屡次违规可永久封号。
- RadarAIOpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预
OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向经过审核的组织免费开放,测试显示可将需复核图像减少 48%。ChatGPT 同时上线新警告,用户尝试查找涉儿童性剥削内容时会被打断并暂停访问 24 小时。OpenAI 还发布了面向开发者的 CSAM 治理指南和执法调查支持工具。
- TechCrunch · AIOpenAI 发布 CSAM 图像分类器并在 ChatGPT 中加入警告与临时封禁
OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的图像分类器,并通过 API 免费向部分公司开放,该工具与 NCMEC 合作开发。早期合作测试中,分类器在找到同样数量违规图像的同时减少 48% 的标记量,被标记图像为违规内容的概率提高一倍。
本事件热度走势
- 可比范围当前
- 15
- 可比范围峰值
- 2911月17日 04:00
- 近 24 小时变化
- -46%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。