文/网易科技 王先
“后台每天都会添加大量敏感词……我们有时候私底下坐一块儿，你去想，你也去想，就找（某个敏感词的）谐音……你想想，中国汉字（这么多），比如跟‘微信’这两个字谐音的就得有多少？”“1000多个关于防爆的敏感词，我自己都不知道是什么东西，全进词库了”“进了这个行业，才分得清什么是性感，什么是低俗，什么是暴露”。
讲这些话时，林达正坐在位于北京酒仙桥路360公司所投资的平台——花椒直播的“摄影棚”里，所谓摄影棚，其实是一间小会议室，林达是花椒直播的600多名内容审核员之一。出写字楼往东南方向再走1.3公里，是国投信息创意产业园，这是另一家直播平台“人人直播”所在地——自纽交所上市后在资本运作上困顿已久的人人网也终于忍不住在2016年开始试水直播，虽然规模相对不大，但比起之前的纯校园社交平台，这已经算是更直观的商业化尝试。
继文字、图片、视频之后，随着技术升级与资本追捧，带有时间流这个第四种呈现维度的直播在过去一年里暴得大名，想在“风口”分得一杯羹的创业者众，想趁机抓住一根救命稻草的焦虑者众，于是不乏鱼龙混杂，急功近利中泥沙俱下。随之而来的，是一系列来自行政的规范肃清。2017年5月，文化部高调关停了涉嫌低俗传播的“千树”等10家表演平台，并对48家网络表演经营单位进行了处罚，关闭直播间30235间。
迅速野蛮生长后，除稗筛糠成了主流直播平台不敢掉以轻心要自我应对的事情，加上用户数量与日俱增，于是各家产品不得不快速跟进增设更多的内容审核员进入运营团队。一下科技副总裁陈太锋告诉网易科技，比如公司由最初只审核旗下秒拍内容的几十人，到后来有了小咖秀、一直播等产品，现在做内容审核的“整个加起来将近七八百号人”。
虽然这似乎是一个看起来并不需要什么鲜明特长的群体，甚至做的事情“类似富士康这种流水线的工作”，但由于工作性质微妙，仍略带神秘感，也有外界声音把他们称作“鉴黄师”。
“这是谐音字，你好好念念”
“其实还不一样，到鉴黄师这个级别，他们就不做初级审核员这些工作了，他们会创造和制定规则”，林达认真地告诉网易科技，所以目前国内绝大部分从事直播内容过滤的相关工作人员，称为“内容审核员”是更严谨的说法。
好像在叙述一款升级打怪的手游。
林达今年24岁，小时候随父母来到北京生活，便再没有回陕西老家长住过。2015年大学毕业，去年入职花椒直播做了内容审核员，和朋友们一块儿吃饭时大家聊起来，别人问他：“你现在是不是有点网络警察的感觉啊？”“对。”他觉得这个比喻很受用。
马可也不大喜欢别人用“鉴黄师”三个字来概括自己在人人直播的内容审核工作，2016年春节过后，人人网尝试上线了初版直播平台，从原运营团队抽拔了一部分人转做直播内容审核，不过由于体量有限，直到后来有新人继续补充加入，整个审核团队也不过保持在二三十人左右的状态。马可特意强调他们做的不仅仅是基础审核，由于主要面向校园人群，相对单纯，所以平时还有很大一部分工作内容是和主播沟通交流、甚至提些优化建议的更有“运营”技术含量的事情。
而无论哪家平台，对于内容审核员来说最常规的工作方式，就是面对屏幕“大家来找茬儿”。据网易科技了解，比如人人直播后台审核，一张电脑屏平时可同时监管9个直播间；花椒直播目前采用的是双屏监控，同时可在线观察20路视频，在高峰期甚至会让每个审核员扩展到同时监管50路。
嗯，《封神演义》中的“眼观四面，耳听八方”也不过如此……
除此之外，各主流平台目前也都在不同程度采用人工智能做前期过滤，对于疑似存在问题的图像或语音内容进行标红提示。陈太锋透露，一直播就在同时采用人脸识别技术、爆恐音频过滤以及视频指纹过滤等方式来对人工审核进行辅助。
对于所有平台来说，审核最主要的关注点无非是包括对主播的穿着、语言、房间布置等等是否违禁的判断，判断标准主要参考各家平台自制的内部规范手册，这类手册往往可以细化到这样的程度：如果以5号宋体字排版、用A4纸打印，装订起来能有300页之多，而且还在动态增补。审核员需要在入职前经过一周到一个月时间不等的培训、考试，全部通过后，才正式上岗。而考核指标主要来自两方面：一是错误率，一是工作量。
当审核员看到主播在直播过程中有涉嫌违规时，对有触线倾向或轻度触线者会在后台给出警告提示，对于无视提醒或重度违规者则直接令其下线，给予几个小时到一个月，甚至永久封禁的处罚。
但是不同直播平台在具体操作方面会略有不同。有一直播这一类图文同审，也有花椒这种做影像与文字分离审核。林达告诉网易科技，由于审核规则设置极为细致，为个体做判断的过程增加了难度，所以花椒目前是专人专项做审核，文字、图片与视频分离，比如对于文字内容，要查看包括飘屏、评论、状态页介绍等内容，必要时甚至会查看私信。
敏感词库也是直播平台标配之一，并且各平台在日积月累实时添加大量敏感词，“我们有时候私底下坐一块儿，你去想，你也去想，就找（某个敏感词的）谐音……你想想，中国汉字（这么多），比如跟‘微信’这两个字谐音的就得有多少？……（不安分的用户）他们一直在想一些（关联）字，虽然乍一看跟那些乱七八糟的八竿子打不着，但是别的用户可能一看就知道是什么意思那种。”林达说，有一次总监去参加“防爆培训”，回来立马把1000多个敏感词加入了后台词库，“那些词，（当时）我自己都不知道是什么东西。”
这类工作做久了，也容易产生职业敏感，有一次林达看到父亲正在用一款音乐类的社交App，“我就问他，你觉得这个人没有问题吗？他说没有啊，唱歌的小姑娘长得还挺好看的。我就说：这是谐音字，你好好念念。”
当时屏幕上显示的几个字是“伍佰肄业”。当然，想讲述的显然并不是歌手伍佰没能顺利毕业的故事。
“我们被对手黑了，还上了微博热搜”
某直播平台员工沈浪向网易科技抱怨道，有一天晚上其平台突然出现三个戴着口罩但明显涉嫌传播色情内容的人员，迅速直播，迅速下线。第二天关于该事件的消息铺天盖地传开，并且上了微博热搜。“但是我们技术一筛查，发现这三个人是同一个开播地点，连IP都一样，后来发现是竞品直播平台雇人来抹黑的，他们还没开始播，就提前把录制软件打开，播完自己再去看录像，然后截图发通稿，发给了很多媒体。”
但是这件事情最终仍然不了了之，没有走法律程序解决。“因为你知道打官司的话，其实要很长时间……而且这家公司我们还是比较了解的，估计老板之间（关系还不错），也互相说了下，就算了。”
除此之外，还有一些内容是直播平台一般不允许触碰的，比如讨债，因为在这过程中极容易产生肢体或语言暴力。但依然有不少直播平台在乐视风波的风口中浪尖直播了某次供应商前去乐视大厦讨债的情况。
“因为讨债也分文明讨债跟暴力讨债。碰到过文明的，全程一个脏字没有，就是过去要钱去了，这就可以直播，比如乐视那次，而且很多媒体都在。”一位内容审核员介绍，当天领导跟他说的是：把直播间盯住了，万一出现暴乱，立马及时给我停掉。
“但谁都喜欢看热闹啊，比如要是我在竞品平台看到了爆料，我巴不得多看一会儿。但如果发现自己平台有这些内容，我是坚决不允许的。”该审核员实诚地说。
三个月前，美国社交网站Facebook创始人扎克伯格宣布公司将新增3000名内容审核员加入其团队，来审查用户在直播过程中是否涉及仇恨言论、虐待儿童、谋杀、自残等暴力内容。
沈浪说自己也在国内媒体看到过一两次报道，“就是关于直播自杀，但你知道，这种往往是最后没自杀，很多都是年轻人闹分手。你知道小孩子有一种情绪，就是哭的时候会捂脸，但他还会偷偷看你，就是这种心理。”
随着外界对直播产品玩法的熟悉程度深入，也出现不少隐蔽性较高的敏感信息传播方式，乍一看并没有明显违规，但仍存在问题。一直播平台内容审核员胡哲告诉网易科技，其操作方式一般是先看画面再听声音，并且会关注房间里评论的弹幕数量。“如果这个房间的弹幕和评论数量突然增加，那应该就会有些问题，要及时去判断。”
声音的识别是目前做内容审核的主要难点之一。林达甚至觉得声音上的判断是最难的，比如高峰期，一个人可以同时盯两个屏幕上的50路视频，画面上出现的问题很直观；文字但凡触碰敏感词，敏感词条数会不断上涨，也很容易监控。但只有把鼠标放到一路画面上，才能分辨那一路视频的声音如何，而人工智能的语音识别准确率现在还远不到位。“像Siri的语音识别也就是那个样子。”
“类似富士康流水线的工作”
据网易科技了解，为了尽可能降低公司在内容审核方面的投入支出，较有规模的直播平台纷纷将自身该部分团队主体设置在远离京沪深的二三线城市，即便总部还在北京。比如花椒设在天津，斗鱼设在武汉，映客设在长沙，一直播设在西安等等——大多是母公司创业起家所在地，只留一小部分审核人员在京，并且相当一部分人员来自外包公司。
从业者则大多是22岁到26岁之间的年轻人，由于要7*24小时在线审核，所以工作时间往往为“三班倒”。薪酬方面以北京为例，初级审核员月薪一般在五千元左右。“外地会稍微更低，但基本上会比当地薪资水平线稍微高一点。”陈太锋告诉网易科技。
如果是一个有一年以上工作经验的审核员，一般一天能审大概五到六千条视频。
同时他也透露，高流失率是目前内容审核整个行业都面临的问题，“因为这些人每天的工作相对比较枯燥，类似富士康流水线的工作，又要记大量（审核规范）知识点内容，尤其在审核的时候还要去面对各种各样的视频内容，所以对人的精神或其他方面压力都挺大的。很多人可能做一两年就考虑换岗，或者不继续做了。”
转岗的人大多会选择客服、运营或编辑的工作。
但也有人不这么想。胡哲自打早期在酷6､PPTV等公司算起，在直播审核的行业里已经浸染了8年时间，是为数不多的“80后”，“估计我就一辈子做这个（行）了”，他对网易科技说。胡哲认为这是一份蛮稳定的行业，作为一个5岁孩子的爸爸，他会偶尔在连续两天休息日的时候再请一天调休假，回河北老家看看。他今年30岁，打算45岁以后再考虑离开北京，“最起码我得能在北京退休，毕竟北京的退休金比我们老家高一倍。”
胡哲也曾经尝试着回老家待了两年，“没什么适合我的工作，如果让你干工厂那种活儿，你也干不了。”所以他又重新回到了北京。
（注：文中出现人物，除“陈太锋”外，均为化名）
本文来源：网易科技报道
责任编辑：
王凤枝_NT2541
