网络直播风潮正盛，平台需防范直播内容/营销风险

随着刘耕宏直播健身大火，“谋财害命”组合成为了网络热梗。无论是直播“健身”还是直播“带货”，都会面临内容和营销的双重风险。而相较于图文音视频，直播的内容量级和交易风控对即时性的要求也更高，更需要采用多元、复合的风控策略和系统。本文将着重探讨直播的痛点、面临的风险和应对策略。

一、直播风险高发—万物皆可“云XX”

先看一组CNNIC去年发布的数字：

截至 2021 年 6 月，我国网络直播用户规模达 6.38 亿，同比增长 7539 万，占网民整体的 63.1%；
电商直播用户规模为 3.84 亿，同比增长 7524 万，占网民整体的 38.0%；
游戏直播用户规模为 2.64 亿，同比减少 452 万，占网民整体的 26.2%；
真人秀直播用户规模为 1.77 亿，同比减少 875 万，占网民整体的 17.6%；
演唱会直播用户规模为 1.30亿，同比增长 896 万，占网民整体的 12.8%；
体育直播用户规模为 2.46 亿，同比增长5305万，占网民整体的 24.4%。

受疫情催化，几乎增长见顶的直播，又迎来一轮爆发，直播成为平台必备能力，微信、小红书、Keep，甚至银行、教育平台内都嵌入了直播功能，直播逐渐成为一种生活方式，渗透到用户的多种生活场景里，“云XX”兴起，如云课堂、云旅游、云看展、云蹦迪、云音乐节、云监工等，直播电商迅速完成市场教育，也推动各类传统企业加速线上化布局，如银行直播办理业务、汽车直播、挖掘机厂商直播。

云蹦迪、云监工

新内容、新用户和新市场，加上监管趋严，行业正规化，直播行业对内容和业务的风控能力都提出新的要求。

针对不良内容，相关规范陆续出台。2020年6月，国家互联网信息办公室会同相关部门对31家主要网络直播平台的内容生态进行全面巡查，视违规情节对相关平台采取停止主要频道内容更新、暂停新用户注册、限期整改等处置措施。2021《关于加强网络直播规范管理工作的指导意见》，确立了完善的工作机制，规定各部门在网络直播行业的监管职责；坚决打击利用网络直播颠覆国家政权、散播历史虚无主义、煽动宗教极端主义、宣扬民族分裂思想、教唆暴力恐怖等违法犯罪活动；严厉查处淫秽色情、造谣诽谤、赌博诈骗、侵权盗版、侵犯公民个人信息等违法犯罪行为；全面清理低俗庸俗、封建迷信、打“擦边球”等违法和不良信息。

其次，网络直播行业规范密集出台。2020年6月，中国广告协会发布《网络直播营销行为规范》，成为首部针对直播电商行业的全国性规定，当年11月，国家广播电视总局发布《关于加强网络秀场直播和电商直播管理的通知》；《网络交易监督管理法》《网络直播营销管理办法（试行）》于2021年上半年陆续实施，将电商直播明确纳入网络交易监管范围，推动电商直播行业市场秩序进一步规范。

未成年人的网络保护成为关注焦点，2021年《关于加强网络文化市场未成年人保护工作的意见》，规定要压实市场主体责任，切实强化用户识别、严格保护个人信息、坚决阻断有害内容、严禁借“网红儿童”牟利、有效规范金钱打赏。

监管侧带来三方面压力：1. 监管行动具有流动性，频率难以预测；2. 监管尺度具有趋向性，逐步收严收紧；3. 监管范围具有扩大性，辐射更多分类。

二、内容风险多样—多场景防控，动态调整

常见的直播行业内容审核场景包括头像、昵称、评论、弹幕、发帖、一对一聊天、多对多聊天等等，一方面审核播出内容，一方面审核观众参与内容，其中，又涉及文字、图片、音视频、网页等内容形态，拆解下来还是音频转文字审核，视频拆分为文字（音频/纯文字/视觉识别文字）和图片（视频静帧）进行审核。

举个例子，直播按截图和音频段分别进行审核，内容包括头像、昵称、评论、画面、声音等，机器预审后进入人工审核流程，如有问题，删除数据，惩罚账号。

直播内容审核痛点在于：

1. 审核量巨大，比如就快手单平台而言，一年的直播场次接近14亿，平均每月开播1.16亿次；
2. 场景复杂，审核维度多样。直播平台包含昵称、弹幕、头像、直播画面、直播音频等多场景数据；
3. 审核时效性要求高，从主播发生违规到平台完成处罚，要求分钟级别的处理时效；
4. 类型多样，涉政、色情、暴恐、娇喘、辱骂、广告导流等违规类型多种多样；
5. 电商直播类有新的审核标签，包括：其他竞品信息（友商logo、讲话内容等）、广告法违禁词（“最好”、“最坏”、“最强”）、夸张/误导用语（“跳楼价”、“吐血价”）、直播间质量标签（直播间画面杂乱、消极直播、长时间播放广告等）。

针对于此，数美认为，根据平台调性、场景数据的影响范围和审核发布流程共同决定数据的拦截标准，比如电商平台对广告法违禁词标签的拦截更为敏感，教育平台对未成年人不宜内容、辱骂的拦截更加严格；直播弹幕短时飘过，即发即审即时处置，比评论更偏准确，不拦灌水。

具体到审核技术，数美采用深度学习技术进行文本、图片、语音、视频内容识别，结合产生内容的账号、设备、IP的行为以及全球风险库，精准识别色情、涉政、违禁、暴恐、广告等内容风险，实时同步网安、网信办等有关部门监管要求、监测实时热点事件，持续更新数十万量级的敏感词库，通过灵活的名单匹配（白名单、黑名单、忽略名单、变体名单等）和强大的NLP模型，结合多场景、多维度判定，实现高效、准确、全面覆盖的内容审核过滤。

举个例子，针对直播质量，数美从五个维度提出通用解决方案：

1. 内容类型区分：唱歌、跳舞、乐器、健身、游戏、吃播、户外等类型，也可检测与平台内容资质或主播标签不符的内容

2. 主播专业度检测：主播对新观众/收到礼物后的反馈时间，主播表情识别（微笑，是否正视镜头等）

3. 直播质量检测：空播/无人直播/消极直播/画质调性等

4. 低俗内容检测：低俗动作、饭圈文化、审丑等不合适内容

5. 违规内容检测：公职人员制服着装画面、抽烟喝酒等不端行为、未成年人画面、开车场景等

三、营销欺诈频发—全栈式风控，多环节布控

除了内容，直播人气直接对应推荐曝光、平台收益和销售收益，主播和黑产都有动力产生欺诈行为，常见于四大场景。

1. 拉新/促活环节刷奖励。平台的邀请拉新、抽奖、抢红包等运营活动中，黑产通过海量的账号与自动化程序去操作，通过外挂薅羊毛，卖外挂给正常用户进行使用。导致：1）平台运营费用流失；2）用户账号有被盗风险；3）破坏平台生态，“商人”倒卖物资，用户体验变差；

2. 人气刷水。黑产可以提供大量虚假粉丝关注，直播人气刷量。导致：1）给平台带来很大影响，影响房间排名权重与推荐：2）用户观看到高粉丝的低质内容的主播，影响体验；3）对于正常做内容吸粉的主播不公平；4）平台签约主播工资与用户观看时长挂钩，平台费用流失；

3. 自动脚本导流广告。通过全自动挂机、随机话术的脚本，导致：1）平台用户流失；2）内容产生合规风险；3）用户体验变差；

4. 团伙代充。专业代充代退团伙，充值后直接进行退款操作。导致一旦打赏主播，直接带来平台净损失。

基于内容和业务存在的风险场景，数美提出了天网+天净的全栈式风控解决方案，前期识别风控高发场景，进行多环节布控，大幅增加黑产作恶成本，最终将风险降低到可控范围内。