网易首页 > 网易号 > 正文 申请入驻

OpenAI发布免费图像分类器 识别儿童虐待材料

0
分享至

IT时代网11月17日消息,OpenAI 公布一组针对儿童性虐待材料(CSAM)的新工具,包括一款可检测 CSAM 图像(含 AI 生成内容)的图像分类器,以及 ChatGPT 内的警告与临时封禁机制,同时面向开发者发布了新的指引,并为执法部门提供了一套工具。

这款图像分类器通过 API 向经过筛选的公司免费开放。它在图像中寻找此前未见的滥用迹象,并给出评分,为审核人员处理 CSAM 提供方向性参考。OpenAI 表示该分类器是与美国国家失踪和受虐儿童中心(NCMEC)合作开发,并正与 Tech Coalition、ROOST 共享工具访问权限。早期合作测试中,分类器在找到同等数量滥用图像的前提下,标记量减少百分之四十八,被标记图像确认为滥用的概率是原来的两倍,显著减轻审核工作量。

ChatGPT 方面新增警告界面,用户尝试生成或访问性化儿童的内容时会收到警示,并被引导至专业支持资源,账号将被暂停 24 小时作为警告,已有应用会拦截 CSAM 内容及相关请求,多次违规将永久移除账号。相关警示文案与规则由 Protect Children、Lucy Faithfull Foundation 等组织及塔斯马尼亚大学研究者参与制定,后者对威慑信息试点做了独立评估。

OpenAI 还发布了开发者使用指引,帮助其预防、检测并协助用户举报 CSAM 内容。公司称早期测试中该指引已帮助多名开发者接入儿童安全工具并完成举报渠道注册。


编辑:林一舟

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一直以为的绝密配方原来是大道至简!网友:难怪炖不出店里那个味

一直以为的绝密配方原来是大道至简!网友:难怪炖不出店里那个味

夜深爱杂谈
2026-11-01 19:32:16
台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

叶葉夜
2026-11-19 11:29:23
失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

扶苏聊历史
2026-10-24 13:40:19
黄仁勋离任,英伟达取消订单,连锁反应来了……

黄仁勋离任,英伟达取消订单,连锁反应来了……

大厂财经社
2026-11-19 17:32:36
国家正在严查房东,个人和单位租房,千万别踩这四个大坑

国家正在严查房东,个人和单位租房,千万别踩这四个大坑

细说职场
2026-11-19 16:49:03
剖析项英牺牲真相:为何多次拒绝毛泽东北上命令?因自己两个私心

剖析项英牺牲真相:为何多次拒绝毛泽东北上命令?因自己两个私心

阿胡
2025-04-20 11:05:46
巨星之子!就在今天,这项21世纪独一无二的纪录,被布泽尔实现

巨星之子!就在今天,这项21世纪独一无二的纪录,被布泽尔实现

大西体育
2026-11-19 11:29:00
APEC引热议!台湾岛内震撼:全世界焦点都在深圳,市民很羡慕

APEC引热议!台湾岛内震撼:全世界焦点都在深圳,市民很羡慕

西昆仑Bruce
2026-11-18 18:36:55
霍启山是不会和娜然分开的,原因很简单,不是娜然名气多大,而是霍启山是真的对娜然生理性喜欢

霍启山是不会和娜然分开的,原因很简单,不是娜然名气多大,而是霍启山是真的对娜然生理性喜欢

一盅情怀
2026-11-17 12:18:20
俄罗斯定下更高目标:不仅要打垮乌克兰,还想解决欧洲这心腹大患

俄罗斯定下更高目标:不仅要打垮乌克兰,还想解决欧洲这心腹大患

经纬戎韬
2026-11-17 03:10:10
林俊贤直播自爆,对傅艺伟动过心本想追求,幸好最后没行动!

林俊贤直播自爆,对傅艺伟动过心本想追求,幸好最后没行动!

旧时光老师
2026-11-17 22:26:47
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
领先16分险被逆转,广东男篮险胜浙江,徐杰28+4+9+3,阿祖布克9+9

领先16分险被逆转,广东男篮险胜浙江,徐杰28+4+9+3,阿祖布克9+9

中国篮坛快讯
2026-11-19 21:57:16
金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

文史达观
2025-07-05 06:45:03
心系中国!美方拒绝日本,没正式会谈

心系中国!美方拒绝日本,没正式会谈

果妈聊娱乐
2026-11-19 12:28:47
彻底摊牌!皇马头号巨星开出两大条件!穆里尼奥必须满足他

彻底摊牌!皇马头号巨星开出两大条件!穆里尼奥必须满足他

奶盖熊本熊
2026-11-19 09:13:54
欧盟拟向乌克兰追加450亿欧元贷款

欧盟拟向乌克兰追加450亿欧元贷款

环球网资讯
2026-11-19 08:58:28
供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

王新喜
2026-11-18 12:06:06
中国12个贵宾席坐满,菲方急坏了,马科斯欠1亿菲律宾人一个交代

中国12个贵宾席坐满,菲方急坏了,马科斯欠1亿菲律宾人一个交代

麓谷隐士
2026-11-19 00:05:04
彻底收回!中国关停印度全部签证外包中心,使馆直管严查,印度商界彻底慌了

彻底收回!中国关停印度全部签证外包中心,使馆直管严查,印度商界彻底慌了

魔都姐姐杂谈
2026-11-18 13:09:03
2026-11-19 22:12:49
IT时代网 incentive-icons
IT时代网
IT时代网官方账号
22269文章数 2164关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

中美元首举行会晤 特朗普:请中国继续保持强大

头条要闻

中美元首举行会晤 特朗普:请中国继续保持强大

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9限时27.39万起 方向盘可折叠 方盒子也能当家用旗舰

态度原创

家居
房产
旅游
教育
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

2.5亿!丁村侨中,新动作来了!

旅游要闻

潍坊超治愈的“9.2公里”,周末来打卡

教育要闻

祝贺!绵阳3名学子获得省级荣誉称号

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版