网易首页 > 网易财经 > 正文

这一天还是来了:鉴黄人工智能或将取代人工鉴黄师

0
分享至

又一薪水高、“福利”好的职业或要被人工智能(AI)替代了。

近日,阿里巴巴集团(下称“阿里”)安全部在接受澎湃新闻(www.thepaper.cn)采访时介绍了AI鉴黄的有关工作:当用户输入一张图片,AI将返回一个0-100之间的分值。这个分值非线性地标示了图片含色情内容的概率。对于互联网场景模型,得分99及以上的图片几乎可以肯定是色情图,无需人工复审;得分50-99的需要人工审核;得分50以下的认为是正常图。

随着AI鉴黄技术的发展,人工鉴黄师逐渐从鉴黄行业里被解放出来。阿里安全部高级算法专家威视向澎湃新闻介绍,假设一天要审核4亿张图片,单纯由人工来审,如果一人一天审1万张,就需要4万人。而经由AI鉴黄后需要交由人工审核的量大约只需20万张,这样只需要20人,大大节省了人力。

不仅仅在识图领域,威视告诉澎湃新闻,AI鉴黄还覆盖到了语音、视频等多媒体领域,目前已经可以识别中文、英文、日文、俄文等语言,还可以识别中国多省份方言,无语义的呻吟声也能识别。据悉,阿里将在8月21日举办的网络安全生态峰会上,集中展示这些技术。

鉴黄AI是怎样炼成的?

阿里的鉴黄AI做的色情图片检测,从原理上来说,就是一个典型的图像分类问题。当前的解决方案是标注样本后,使用深度学习技术训练一个人工神经网络。具体步骤包括明确分类标准→收集样本→样本打标→模型训练,四个步骤。其中前三个步骤主要由人工完成。

这四个步骤听起来似乎是最后一步的技术难度最高,实际上阿里的相关人士向澎湃新闻透露,花时间最久的是第一步。

“虽然实打实的比如‘露点不露点’之类的色情,还有比较明确的判断标准,”威视表示,“对于低俗和性感类,争议就比较多,不同的人有不同的认识。”

现实世界是复杂的,威视举了个例子,以儿童色情的问题为例:儿童露点算不算色情?有人会说:男孩不算,女孩算。又有人质疑:如果男孩年龄较大呢?如果是发育较早的孩子呢?于是又又有人说,十二三岁的男孩子露点算色情。那么,十一岁的呢?或者,如何从图片中判断孩子年龄到底有多大呢?

威视告诉澎湃新闻,虽然明确分类标准是设计步骤时的第一步,但在后续打标过程中,遇到实际的问题还要再对标准进行不断的修正和增补。

被鉴黄AI误认为是色情的图片

在收集样本的过程中,团队“集思广益”,浏览了近2000家网站,下载了超过6000万张疑似色情图片,实际去重后约2300万张图片,并实际标注了超过1300万张图片。这1300多万张图片成为模拟训练的原始数据库,因此这一浩大的工程,被技术人员认为是鉴黄引擎成功最重要的基石。

样本打标过程依然主要由人工完成对2000万张图片的打标。威视介绍,他们做了一个打标工具,并建立了质量控制体系。打标前对所有参加标注的人员先进行培训,学习打标标准,做练习题考试,考试通过之后才能上岗。标中通过事先已有答案的校验题,或多人对同一对象打标的方式,进行标中控制。标后的控制,就是通过模型判断,找出可疑部分再进行人工标注。

威视表示,之所以严格把握样本打标的过程,是因为深度学习,对高质量的标注数据是有很高的要求。数据标志质量越高,最后模型的精度就会越高。

于是,由人类经过千挑万选、做题考试后建立起来的高质量“色情图片”数据库,最后交由模型训练。威视表示,GPU机器单机单卡的情况下训练时间要近一个月。后来阿里团队更换了网络结构并实现了多机多卡训练,将千万级别样本的训练时间控制在一周左右。

“AI最好的应用模式依然是人+机”

那么,高效和低成本的AI鉴黄,是否会完全替代人工鉴黄师?

对此,阿里安全部产品专家念夏向澎湃新闻表示,目前AI鉴黄最好的应用模式仍然是人工+机器。不管是前期设计模型的标准和实际打标,还是后期人工复核,人的参与都是不可或缺的。

2015年7月的“北京三里屯优衣库事件”,一段时长1分钟的试衣间不雅视频流出,并2个小时内在各大网络平台上迅速完成了过亿的转发量。但目前只有人的头脑拥有足够的“意识”判断这些单独的突发性事件,是否属于“违规”。

“已知的、有清晰标准定义的风险,AI都已经能解决了。”念夏表示,真正的难点是恶意的突发事件,爆发了就是爆发了,这种情况下,由于之前对该事件或场景缺乏标准的定义,当时要直接给AI及时去处理,是不可能的。”

另一种类型就是非常模棱两可的场景,即AI打分在50-99分之间的内容。念夏表示,带有主观个人意识或者群体意识的部分,就是需要人工审核的核心部分。

此外,包括特定的体育运动以及国际标准差异等问题,前期模型调整和后期复核标准变化,也需要人工审核的出马。

威视表示,目前像包括相扑、摔跤、艺术体操甚至游泳等门类的运动,由于穿着较为特殊,一般把这类多媒体作品定性为性感类,经由人工复核,终极目标还是希望能让AI直接分辨出图片上的人是在参加运动比赛。

被鉴黄AI误认为是色情的图片

从国际上来看,虽有通用的鉴黄标准,但也会有与国内标准大相径庭的地方。念夏向澎湃新闻举了个例子:“国内如果直播给小宝宝洗澡,其实没什么事,大家觉得很可爱。但在国外是绝对不行的,而且属于严重违规。”

阿里的AI除了用于鉴黄,念夏表示利用这个原理,还能训练AI做类似编审的工作,比如选取视频封面、鉴定重复视频等。“不仅是做合规方面的事情,我们希望利用AI去做真正的生产提效,用技术解决更多社会问题。”

相关推荐
热点推荐
研究机构预估:OpenAI部署Sora需要72万片英伟达H100 AI加速卡,成本216亿美元!还不包括硬件、服务器、电力

研究机构预估:OpenAI部署Sora需要72万片英伟达H100 AI加速卡,成本216亿美元!还不包括硬件、服务器、电力

和讯网
2024-03-27 17:37:30
泽连斯基发文祝贺乌克兰国家足球队冲进欧洲杯!

泽连斯基发文祝贺乌克兰国家足球队冲进欧洲杯!

老马拉车莫少装
2024-03-27 16:57:29
大S生活彻底崩塌?汪小菲带走保姆开除司机,孩子上学无人接送

大S生活彻底崩塌?汪小菲带走保姆开除司机,孩子上学无人接送

萌神木木
2024-03-27 17:21:07
王艳和温峥嵘同框,才知道,嫁给豪门和嫁给爱情哪个更幸福

王艳和温峥嵘同框,才知道,嫁给豪门和嫁给爱情哪个更幸福

米椒娱乐
2024-03-27 13:08:46
天价赔付!三只羊公司再起风波,三只羊濒临崩溃边缘!

天价赔付!三只羊公司再起风波,三只羊濒临崩溃边缘!

娱乐圈酸柠檬
2024-03-28 10:09:16
3月28日,李雪琴,大瓜!

3月28日,李雪琴,大瓜!

元气少女侃娱乐
2024-03-28 14:43:54
WTO裁决中国胜诉,澳方接受

WTO裁决中国胜诉,澳方接受

环球时报国际
2024-03-28 07:08:27
54岁桑切斯带火了一种穿搭,叫作“小黑裙+白板鞋”,甜蜜恋爱中

54岁桑切斯带火了一种穿搭,叫作“小黑裙+白板鞋”,甜蜜恋爱中

娱乐框框框框
2024-03-27 10:05:26
俄罗斯军队在乌克兰遇到的问题比损失坦克更大:基层军官损失惨重

俄罗斯军队在乌克兰遇到的问题比损失坦克更大:基层军官损失惨重

零度Military
2024-03-17 20:51:12
初三直通硕士,3名武汉伢已被录取,国内六高校“少年班”都有哪些特色

初三直通硕士,3名武汉伢已被录取,国内六高校“少年班”都有哪些特色

极目新闻
2024-03-28 14:29:48
KG:还记得以前三双多难拿吗?约基奇小萨东契奇将摧毁三双纪录

KG:还记得以前三双多难拿吗?约基奇小萨东契奇将摧毁三双纪录

直播吧
2024-03-28 06:32:07
广东VS广厦前瞻:前四卡位战!广东冲击10连胜,孙铭徽徐杰受伤

广东VS广厦前瞻:前四卡位战!广东冲击10连胜,孙铭徽徐杰受伤

薇说体育
2024-03-28 15:56:32
湖南这三座城市不得了,被“中央”选中,建高铁枢纽,有你家吗?

湖南这三座城市不得了,被“中央”选中,建高铁枢纽,有你家吗?

小小包工头阿汾
2024-03-28 07:55:30
大学生捐精,女方要求私下见面,承诺给予费用,内幕如何?

大学生捐精,女方要求私下见面,承诺给予费用,内幕如何?

极品小牛肉
2024-03-22 10:46:53
南通禁止制造销售冥币纸钱纸扎,当地12345:接到大量市民电话,政策暂未调整

南通禁止制造销售冥币纸钱纸扎,当地12345:接到大量市民电话,政策暂未调整

红星新闻
2024-03-27 13:08:43
6分钟内摧毁19个导弹基地,80架战机被击落,228枚导弹成炮灰

6分钟内摧毁19个导弹基地,80架战机被击落,228枚导弹成炮灰

环球Talk
2024-03-04 23:19:28
两极反转!蔡英文支持马英九访问大陆,想让马英九做两岸缓冲剂!

两极反转!蔡英文支持马英九访问大陆,想让马英九做两岸缓冲剂!

张友骅
2024-03-27 11:03:01
莫言告诫:父母走后,不要随便把兄弟姐妹当家人,要多留几个心眼

莫言告诫:父母走后,不要随便把兄弟姐妹当家人,要多留几个心眼

小白兔趣闻
2024-03-26 20:44:18
闵鹿蕾:带北控进季后赛比带首钢夺冠还艰难,球队压力非常大

闵鹿蕾:带北控进季后赛比带首钢夺冠还艰难,球队压力非常大

懂球帝
2024-03-28 16:05:21
这位上海打工人说了大实话

这位上海打工人说了大实话

追逐手中未来
2024-03-27 21:42:22
2024-03-28 17:14:44

财经要闻

疯狂!三个城市,三个地王!

头条要闻

媒体:中国领导人对"中国见顶论"的回应非常重要

头条要闻

媒体:中国领导人对"中国见顶论"的回应非常重要

体育要闻

池江璃花子:我不打算输

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

科技要闻

王传福称合资品牌份额将降到10%

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

本地
教育
亲子
手机
艺术

本地新闻

专访|张伟潮:最年轻的龙头专职制造者

教育要闻

初中生给课本“换头”,课本涂鸦被比下去了,被学生的脑洞惊艳了

亲子要闻

这眼神和表情,好委屈呀!

手机要闻

小米 Redmi Note 13 Turbo 手机曝光:骁龙 8s Gen 3 芯片、5000 万主摄

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

无障碍浏览 进入关怀版
×