上海申通地铁集团打造智能内容审核系统，为乘客提供绿色安全出行空间｜案例研究

在当今社会，地铁已成为城市居民日常出行的重要方式。在乘坐地铁的过程中，乘客们会频繁地与PIS系统（乘客信息系统）产生交互。该系统广泛覆盖站台与列车内部，其功能涵盖了站台列车进站倒计时的精准显示、车厢内列车站点信息的实时更新、视频媒体广告的精准投放以及紧急状态信息的及时发布等诸多方面。PIS系统每日向海量乘客传递着各类关键信息，一旦信息内容出现偏差或不当，极易引发广泛的舆论关注与风波，从而对地铁运营方的声誉造成不可估量的负面影响。

因此，PIS系统内容审核工作的重要性不言而喻。在数字化浪潮的推动下，借助AI技术实现内容的智能审核正逐渐成为行业发展的新趋势。上海申通地铁集团有限公司（以下简称“上海申通地铁集团”）凭借前瞻眼光与创新精神，在这一领域率先迈出探索步伐，成为行业先行者。其与网易易盾携手合作的成功案例，对整个地铁行业的数字化转型与内容安全管理具有研究价值。

01

上海申通地铁集团期望借助AI技术保障PIS系统信息内容安全合规

上海拥有全球最大的地铁网络，其日均客流量更是高达1000万人次以上，这一庞大的客流量意味着地铁运营的各个环节必然是极为严苛的。上海地铁的PIS系统每天向着数以万计的乘客传递各类关键信息，其信息发布的频次之高、覆盖人群之广泛，使其成为地铁运营的重中之重。

上海地铁的PIS系统由上海申通地 铁集团打造并负责运营维护，其信息内容的准确性、安全性以及所产生的社会影响，直接关系到乘客的出行体验与地铁运营的整体形象。随着人工智能技术的蓬勃发展，上海申通地铁集团敏锐地捕捉到了这一技术变革所带来的机遇。在AI时代背景下，上海申通地铁集团期望能够借助自然语言处理（NLP）、图像处理、音视频识别以及人工智能等前沿技术，构建一套高效、精准且智能化的内容审核系统。该系统旨在实现对PIS系统中违规内容的快速识别、响应与反馈，提供针对性的改进建议，并具备自动报警及熔断机制，从而为城市轨道交通公众服务屏幕的内容安全起到核心支撑作用。

02

上海申通地铁集团携手网易易盾成立上海市“AI+（联合）创新工作室”，主要看重双方可进行优势互补

在对AI内容检测、智能审核系统等建设和运维方案做了仔细评估和研究之后，上海申通地铁集团与网易易盾决定成立联合创新工作室，共同来研发和搭建基于AI技术的PIS内容审核解决方案。

亮点一：产品能力出众

PIS系统的信息内容涵盖文字、图片、音视频等多种形式，且常以组合形式同步传播。地铁集团亟需具备强大审核覆盖面、高准确率与快速审核能力的内容审核系统。内容审核系统运用了大数据、深度学习、NLP自然语言算法等前沿技术具备高精准的不良内容识别能力。面对PIS系统每日高频率、广覆盖的信息传达，审核系统能在毫秒级别内识别包括暴恐、涉政、色情等在内的多种违规内容，实时分析视频流，迅速响应并实现自动报警及熔断，有效规避严重舆情事件。

亮点二：灵活高可用，AI赋能可扩展

审核系统具有多方面的优势，尤其是在灵活性、可扩展性、高可用等方面。如在灵活性方面，审核系统可以在任何支持容器技术的环境中运行，无论是本地服务器、私有云还是公有云平台（如AWS、Azure、Google Cloud等），确保了系统的跨平台兼容性。可扩展性出色，其底层融合深度学习等前沿技术搭建的 AI 技术底座，为未来功能拓展与算法升级预留了充足空间，能随业务发展和技术更新不断进化。高可用性更是突出，面对上海地铁 PIS 系统每日高频率、广覆盖的信息传达，系统能稳定运行，实时分析视频流，迅速响应并实现自动报警及熔断，确保在任何情况下都能有效保障内容安全，避免严重舆情事件，有力支撑地铁运营的信息安全。

亮点三：紧跟监管，持续更新

政府主管部门会不定期下达新的敏感词，但通常仅向大型新闻资讯机构发布，地铁公司往往难以直接获取。网易作为拥有众多对外内容宣发互联网产品（如网易新闻、网易云音乐等）的 头部互联网企业之一，本身便与监管单位建立了稳定的对接渠道，网易能够第一时间获取国家监管指示与舆情信息。一旦监管政策更新，网易易盾可迅速协助客户更新产品能力，确保内容审核系统的时效性与合规性，为地铁集团提供全方位、动态化的安全保障。

03

网易易盾攻克技术难题，为上海申通地铁集团定制智能审核方案

网易易盾与上海申通地铁集团深度合作，成立 上海市“AI+（联合）创新工作室”，共同定制开发系统建设的解决方案。从 架构层面来看，底层融合了深度学习、OCR识别、语义理解、语音识别、人脸识别等前沿技 术，构 建起坚实的AI技术底座。该系统全面覆盖对列车运营信息、紧急信息发布及乘客疏导信息、企业宣传及广告运营信息的智能审核，全力确保播出零事故。

图1 PIS系统内容审核方案架构

项目面临的技术挑战在于提升系统识别精确度。PIS系统将广告与地铁运营信息融合播放，每项信息屏幕占比小，给审核系统识别带来难题。单独审核广告原视频时，违规内容可被识别，但嵌入大屏幕画面后，违规信息占比变小，导致识别不够准确，存在漏判风险。

为攻克这一难题，上海市“AI+（联合）创新工作室”共创了“画面裁剪审核方案”。基于该方案，系统将画面一分为二，左侧为视频内容，右侧为地铁运营信息，分别进行识别审核，从而显著提升识别精度，为上海申通地铁集团的PIS系统内容安全提供更有力保障。

04

“基于AI技术的PIS系统内容审核系统”上线，提升地铁信息传播安全与效率

经过数月的紧密合作，联合工作室成功打造并上线了“基于AI技术的PIS系统内容审核系统”。该系统能 够实时获取PIS系统中的原始视频流，精准检测画面中的不良内容，如色情、涉政、暴恐、辱骂 等，确保信息传播的正面影响。一旦发现非安全内容，系统会根据违规内容的疑似程度，迅速做出包括直接熔断、告警等不同级别的响应操作，整体反应速度在5-10秒以内，有效解决了人工审核工作量大、判断标准主观、处置反应速度慢的问题。

此外，该系统已完成全面的国产化适配，包括应用层代码、GPU、CPU操作系统数据库等，避免了关键技术领域受到外部限制和制裁，保障了国家安全和经济发展。

目前，该系统已在上 海轨道交通部分线路上实现工程化应用，并计划在未来进一步推广，以强化轨道交通领域的公众舆情管控能力，为城市轨道交通的安全运营和良好形象提供坚实保障。