云信小课堂 | 聊天室内容审核很头疼？ 3 步解决！

Vol. 7

随着 5G 、 AI 等颠覆性的技术创新，各类产品的互动性和沉浸感都在快速提升。强互动作为产品快速发展的生命力，也带来了一定程度的安全和监管风险，对通信、安全等技术和服务提出了更高要求。

以娱乐社交行业为例，在直播，游戏等场景中，可能会出现涉政涉黄涉暴的负面内容，平台应该承担共建良好的网络氛围这一职责，但是对接不同的技术服务商去实现内容传输和安全检测的功能，可能会导致技术接入和数据运营上产生工作重叠、效果难以控制和额外成本溢出等问题。

基于这些痛点，网易智企融合网易云信、网易易盾的核心技术能力打造了一站式安全通信解决方案「安全通」，客户端只需集成网易云信 SDK 即可与云信通信服务建立连接，而网易云信的通信服务直接对接易盾内容安全服务，无需客户进行复杂的后台数据对接。一个后台配置两套服务、一次结算节约时间成本、一键开启全新融合服务体验。

「安全通」可以应用在IM 、 RTC 、直播点播三大交互场景中，本期云信小课堂为大家分享如何 3 步解决聊天室内容审核难题，另外 2 个场景敬请期待。

视频讲解

5 分钟视频，手把手教你接入

接入流程详解

Step 1 开通「安全通」功能

1、登录云信控制台 > 选择你的应用 > 功能管理 > IM 专业版 > 选择安全通 ：

2、如果尚未开通安全通功能，会弹出申请开通页面，点击确认申请即可：

3、如果已经开通了安全通，点击安全通会进入安全通的设置页面，该页面内容主要分为三个部分：

• 内容安全抄送地址：云信服务器会将审核的结果放在消息抄送的 yidunRes 字段里，然后通过聊天室消息抄送同步到配置的应用服务器。所以这里需要配置一个消息抄送的地址，并打开聊天室消息抄送的功能。详见消息体中的 JSON 字段说明链接。

  链接：

  https://doc.yunxin.163.com/docs/TM5MzM5Njk/DI3OTg5Mjg?platformId=60353#消息体中的JSON字段说明

• 内容安全与疑似处理配置：可以针对不同内容(文本消息、图片消息等)，配置不同的审核策略。

• 送检失败的消息处理策略：当检测到内容违规时，选择是否拦截该消息。

Step 2 基础设置以及策略选择

1、点击前往设置，进入内容安全抄送地址的设置页面，需要配置消息抄送地址以及选中聊天室消息的抄送选项，设置完成后点击保存，并回到安全通设置页面：

2、针对具体的消息类型进行配置，点击需要送检的消息类型后面的配置选项进行单独配置，以普通文本消息为例，内容安全配置选中聊天室，打开疑似处理配置的开关，并选择需要处理的违规类型，如图所示：

3、消息命中反垃圾时候的策略选择，建议选择拦截：

Step 3 针对特殊需求进行特殊开发

IM 中如果开启了安全通相关的配置，发送的消息会默认通过安全通审核。如果有特殊需求请根据下列字段查询开发文档进行开发。

Server:通过 useYidun 来选择该条消息是否经过安全通；通过配置antispam , antispamCustom 来设置自定义消息的反垃圾类型。

链接：

https://doc.yunxin.163.com/docs/TM5MzM5Njk/TYyMDI1MTg?platformId=60353#发送聊天室消息

Windows(C):kNIMMsgKeyAntiSpamEnable、kNIMMsgKeyAntiSpamContent, kNIMMsgKeyAntiSpamUsingYiDun

链接：

https://doc.yunxin.163.com/docs/TM5MzM5Njk/DU5ODU2OTA?platformId=60227#聊天室消息收发

Web :yidunEnable , antiSpamContent , antiSpamUsingYidun

链接：

https://doc.yunxin.163.com/docs/TM5MzM5Njk/jgyODc1NDk?platformId=60179#发送聊天室消息

Android :通过 NIMAntiSpamOption 单独设置安全通反垃圾配置。

链接：

https://doc.yunxin.163.com/docs/TM5MzM5Njk/zY5NzQzNjU?platformId=60002#聊天室消息收发

iOS :通过 NIMAntiSpamOption 单独设置安全通反垃圾配置

链接：

https://doc.yunxin.163.com/docs/TM5MzM5Njk/jQ0MjQ0NDI?platformId=60278#聊天室消息收发

注意：自定义消息比较特殊，开发者如需自定义消息经由安全通反垃圾，在发送消息时需要通过上述相关字段进行配置，说明自定义消息的内容是文本还是图片、视频等，以便安全通按照相应类型进行反垃圾处理。开发配置中，如果配置了不经过安全通反垃圾，则消息会经过通用反垃圾。

总 结

以上就是网易智企一站式安全通信方案「安全通」实现流程的详细解说，按照如上步骤就可以轻松完成「安全通」的接入，解决聊天室内容审核的难题。

互联网升级趋势下，各行各业迎来了高速发展，涌现了新的机会，也带来了不少挑战，想要成为行业的领跑者，需要玩家以最小的成本实现效益最大化。而「安全通」只需要一个系统、一个后台即可实现内容传输与安全检测两种能力的结合，在应用层上直接帮助用户降低成本，不仅展示了融合的力量，也代表了企业服务能力的融合趋势。

如果感兴趣或者有需求的开发者可以阅读，或点击阅读原文，立即试用。

云信小课堂推荐阅读

关于网易云信

网易云信是集网易 24 年 IM 以及音视频技术打造的融合通信云服务专家，稳定易用的通信与视频 PaaS 平台。

提供融合通信与视频的核心能力与组件，包含 IM 即时通讯、5G 消息平台、一键登录、信令、短信与号码隐私保护等通信服务，音视频通话、直播、点播、互动直播与互动白板等音视频服务，视频会议等组件服务。

网易云信服务于网易云音乐、好未来、新东方、科大讯飞、南京银行等各行各业客户，已有 100w+ 企业开发者接入云信服务。