深度对话︱防治网暴，平台的责任边界在哪里？

防治网暴，平台的主体责任正被进一步压实。但对于“网络暴力”的识别和判定尺度的大小，以及如何让平台“担责又不过度加压”等问题，仍待进一步探讨和解决。

近日，中央网信办发布《关于进一步加强网络侵权信息举报工作的指导意见》，其中重申要压紧压实网站平台主体责任，并提出网站平台要完善分级分类网络侵权信息举报处置举措。包括建立快速通道机制，第一时间受理、第一时间处置显性网络侵权以及事实清楚、举证充分的举报。

7月初，《网络暴力信息治理规定（征求意见稿）》（下称“征求意见稿”）发布，明确对违规网络平台可采取“可责令暂停信息更新”的惩戒措施，并提出网络平台具有事前预防网暴的义务。这是我国在治理网络暴力上的第一个部门规章，标志了立法工作的进展。在此之前，6 月 9 日，最高人民法院、最高人民检察院、公安部三部门起草了《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》，向社会公开征求意见。其中明确，对网络平台“不作为”而导致网络暴力行为损害社会公共利益的，人民检察院可以依法向人民法院提起公益诉讼。

伴随立法、司法和执法的完善，治理网暴的平台责任不断加重。

然而，由于“网暴”界定边界模糊、各平台技术治理“底子”差异大、跨平台治理缺少平台自治动力和可行机制等因素，在现实中，平台往往难以兼顾“快速”与“精准”，一些错审、漏审事件多次引发公众不满，甚至部分平台应尽的治理责任可能流于形式，在此背景下，公权力的适度、及时介入显得尤为关键。

第一财经近日专访了中国人民大学民商事法律科学研究中心执行主任、教授石佳友，中国社会科学院大学互联网法治研究中心执行主任刘晓春，武汉大学法学院副教授、网络治理研究院副院长敬力嘉，北京理工大学智能科技法律研究中心研究员王磊和浙江垦丁律师事务所联合创始人、律师麻策，就网络平台与政府在网暴治理中的职责分配问题进行了深度对话。

平台治理是网暴问题的“牛鼻子”

第一财经：当我们探讨防治网暴时，有一种观点是“平台的问题交给平台”，政府加大对平台的监管。这种“平台化”的网暴治理路径行得通吗？平台在网暴治理中扮演怎样的角色？应该承担哪些技术治理和规则治理的责任？

石佳友：我一直认为平台治理是网暴问题的“牛鼻子”。以平台为媒介，短时间集聚海量的仇恨言论，会对个体及其家庭带来巨大的精神压力。以女性受害人为例，其可能因为顾及生育、家庭和子女，在遭受网暴后，采取自杀等极端行为。除此之外，老人、儿童等也是网络暴力中的常见脆弱群体。

从这个意义上来说，没有平台就没有网络暴力，网暴监管和执法应聚焦平台的不作为，以及利用算法、借网络暴力事件实施恶意营销炒作的行为。

语言暴力一经线上传播，就会即时地被多个平台推送到难以估量的用户群体，相较于事后治理与追责，更有效的手段是“防患于未然”。然而，尽管在网暴形成和发展中平台一直扮演重要角色，但在治理中对于平台的事前责任却长期处于缺位状态。

诞生于互联网产业发展早期的“避风港原则”和所谓“平台中立”原则，意味着平台可以不承担积极的事前监管义务，新修订的《民法典》对于网络侵权规则就仍沿用平台该基本逻辑，这意味着平台只有在知情后没有采取必要措施的情况下才会被追责。

中央网信办于去年11月发布《关于切实加强网络暴力治理的通知》，首次提出“建立健全网暴预警预防机制”。今年8月，《网络暴力信息治理规定（征求意见稿）》结束公开征求意见，其中再次明确，网络信息服务提供者应当建立健全网络暴力信息预警模型，综合考虑事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等维度，及时发现预警网络暴力风险。这意味着，网络平台也有事前预防网暴的义务。

敬力嘉：平台是网暴治理的重要参与者，但单纯依靠技术和平台自身的“平台化治理”并不具备现实可操作性。应该明确的是，平台被赋予治理的“有限责任”，应履行“协助义务”，协助的实体内容是协助治理涉网暴信息，程序内容则是协助配合网络监管部门的网暴治理工作。

目前，监管层、产业界和学界在平台协助监管的实体和程序内容上均未完全形成共识，症结在于“涉网暴信息”的概念界定以及如何落地的程序性机制仍不够明确。

平台治理网暴的责任应聚焦于两点核心内容：第一是如何让平台在法治框架内前置性识别网暴信息并限制其流通；第二是如何在事后追责层面，让平台更愿意为用户提供证据，并增加用户固定、收集证据的便捷性。

对于第一点，落地难点首先在于“网络暴力”并非严格意义上的法律概念。例如集体性的道德审判、通过隐喻或在特定语境下构成实质性语言暴力但没有显著的侮辱性词汇等情景，是否构成网络暴力以及多少“微量积聚”的评论可能会构成网络暴力，这些问题仍存在争议。平台既无法定性也无法定量，在这种情景下，利用算法进行固化处理，可能会影响网络言论自由或流于形式合规，进而激化用户、平台和监管机构间的矛盾。

其次在于算法治理合不合适以及标准问题。比如，算法挖掘个人信息的边界在哪里，是否透明、可解释；又如平台通过算法判定的网暴信息，信息发布者存在异议，那么其救济渠道是否通畅。

对于第二点，虽然多个平台已设立了“一键取证”的渠道，但申诉人能够取得哪些证据、取证流程是什么、是“全自动生成”还是有人工辅助，目前各平台大都没有公开，平台间的规则可能存在差异，这导致用户通过这一方式取得的证据是否在执法或司法程序中站得住脚，存在较大的不确定性。

我的建议是用户触发“一键取证”按键后，平台首先去核实，再让用户向监管部门提出取证诉求，平台接到监管部门对于具体案件的具体取证内容后，根据框定范围再提供给用户相关信息。

之所以强调监管部门应该在治理网暴中承担主要责任，还有两点原因：一是平台之间短期内没有可能实现跨平台治理协同；二是平台对“传播不良信息以获取流量”存在原始冲动，如果以平台为“C位”进行网暴治理，很有可能让监管流入灰色地带。

总的来说，我认为，目前亟须明确平台在治理网暴中的义务边界，及其违反相应义务后监管部门拟采取的整改措施以及平台需承担的责任。同时，应该在制度设计上让平台的利益诉求和治理监管的公共利益诉求之间达成协调，使其充分调用自主能动性，去积极配合监管。

厘清网暴范围是建立“预警预防机制”的前提

第一财经：什么是“网暴预警预防机制”？让平台建立预警模型，前提应赋予平台哪些治理权力？

石佳友：“网暴预警预防机制”意味着平台应该预先建立精准的算法模型，用以识别显而易见的网络侮辱攻击性言辞，并加强对涉网暴风险评价信息的监测，及时清理过滤涉网暴违法、违规评论。“预警预防”的义务范畴大小应该与平台传播能力相匹配，平台应该将该机制作为企业合规的重要组成部分。换言之，如果平台在超合规能力外进行信息传播，造成网络暴力时，应该被追责。

与此同时，无论是事前对网暴进行预警预防还是事后对申诉人的举报行为进行查证和处置，平台治理网暴都离不开算法的运用。对此，平台应当履行算法透明的义务，让公众、监管机构明晰其如何处理、能够多大程度处理网暴信息，并可以定期公布典型案例的处理结果，以起到教育和警示的作用。

王磊：从赋权来看，应当赋予平台包括但不限于内容审查、风险监测、用户管理、过滤和删除不良信息等治理权力。

面对可能存在的海量网暴信息，应当对不同规模的平台进行分类分级治理，通过综合平台类型、用户数量、技术能力、风险后果等维度，细化网络暴力治理颗粒度。对网暴事件多发易发、社会影响力大的大型平台课以更高义务，对于网暴事件发生率低，社会影响力较小的中小平台，发挥行业组织作用，多方共同参与网络暴力治理，形成治理合力。

第一财经：要想通过算法技术预先识别网暴，首先要厘清“何谓网暴”。但目前来看，网暴的范围界定仍存在争议。网暴的治理边界在哪里？

麻策：征求意见稿将网络暴力定义为“网络对个人集中发布的，侮辱谩骂、造谣诽谤、侵犯隐私，以及严重影响身心健康的道德绑架、贬低歧视、恶意揣测等违法和不良信息。”

“违法”和“不良”信息的区别可以参考《网络信息内容生态治理规定》，该规定对其进行了区别化列举，总体来看违法信息比不良信息严重。

我认为，人们可以对“道德缺失”提出合理批评，但是同样不能上升到人身攻击层面，否则仍然属于网络暴力。此外，网暴不一定要有明显的人身攻击，例如未经同意公开他人个人信息也可能构成。

法律只要求平台建立预警模型，但并没有明确建立的程度，因此预警模型也不能解决全部网暴，仍要根据技术能力而定。

刘晓春：目前，对于违法信息和不良信息的界定，是依据《网络信息内容治理规定》来展开的，其中有关于这两个概念的内涵和列举。但是网暴信息的确还可以包含一些情况，就单条内容而言，不一定能够简单界定为违法或不良信息，和正常言论、评论的边缘没有那么清晰，对这些边界模糊的“不良信息”，业界目前在治理实践中已经探索出了一定的经验，存在一定共识，平台主要通过限制传播的方式，达到防治效果。

虽然在当前阶段，平台难以对“网络暴力”这一概念的内涵做出准确的定义，但是平台掌握了大量网络暴力行为的一手资料，可以从网络暴力行为的具体表现角度，尽量对“网络暴力”概念的外延澄清，从而便于知悉规则内容的用户明确自身行为是否属于网络暴力行为的判断。

石佳友：对于明显带有侮辱性色彩的词汇和虚假信息，平台容易识别出来，但对于“事实拼凑”“带节奏”等新型的网络暴力信息，则难以在事中和事后分别进行识别和追责，这就需要平台尽快做好源头治理。

应该注意的是，网络暴力信息的概念不应该过度泛化。比如，“严重影响身心健康的道德绑架、贬低歧视、恶意揣测”等信息可能在不同道德认知程度的个体间存在争议，那么，这些不良信息能否归为网络暴力信息，在入法时需要更谨慎。

敬力嘉：我的理解是依据目前对网暴信息的定义难以划定一个精准的范畴，所以采用了“明示列举+兜底条款”的方式，但这客观上给平台结合具体语境，精准识别网暴的质与量带来挑战。

我认为，要想认定为网暴信息，一定要明确指向特定的利益侵害，包括对人身攻击、财产侵犯或公共利益侵害的指向性，否则难以给平台通过人工智能和大数据识别相关信息是否为网暴信息并采取前置性预防措施提供实质的标准。

另外，根据《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》，网络暴力的处罚可以从线上延伸至线下。但我认为，线下行为如何与网暴建立因果联系，仍需要具体问题具体分析。

专家建议加大对大型平台违法违规惩戒力度

第一财经：大型网络平台在防治网暴方面做得怎么样？

刘晓春：现阶段，在经过网信部门主导的集中治理之后，头部平台在网暴治理基本功能上大体都已经达到比较理想的标准。

比如，根据我们研究团队近期发布的“互联网平台网络暴力治理机制构建与测评报告”，参与测评的7个知名网络平台均开发了网络暴力防治专门产品或技术工具并投入使用。其中，有的头部平台已经在涉网络暴力信息内容识别、异常流量数据识别、谣言治理和算法推荐逻辑优化等方面进行了较为有效的机制设置，明确了平台内部关于涉网络暴力信息内容的分类分级标准、拦截过滤机制及不同等级信息内容的处理方式，在充分尊重用户自主选择权的基础上充分发挥算法在异常流量监控、信息实时反馈方面的网络环境辅助治理效能。

此外，部分头部平台建立了明确的网络暴力案件线索移交机制，将平台巡查到的涉网络暴力违法犯罪案件线索提交给网信、公安等部门。

但部分平台自行探索创新治理措施的积极性不高。我们发现，各头部平台网络暴力治理措施的同质化程度较高，部分平台并未完整覆盖网络暴力治理的所有环节。

需要说明的是，平台责任不应当过于泛化，在网络暴力事件处置中，不宜唯结果论，应综合考察平台是否已经采取合理的措施、建立有效的防范治理和拦截保护机制，评估平台是否已经履行主体责任。

第一财经：征求意见稿提出“因处置不及时造成公民生命健康安全等严重后果的，处十万元以上二十万元以下罚款，可责令暂停信息更新”。这对于大型网络平台而言，能起到多大的惩戒作用？与网暴治理相关的立法，进一步优化的空间在哪里？

麻策：我认为作用不会特别大。网络平台一方面要拒绝网暴，但更重要的是为公众提供自由发表合理意见的空间，后者价值更高。平台的事前治理可能仍需要配合通知删除等更多措施来实施才能达到更好的效果。

王磊：对于该规定，我认为对平台而言警示作用大于惩戒作用，其中“责令暂停信息更新”一项对平台具有实际意义上的惩戒作用。

石佳友：平台越大责任越大，在推进跨平台的网暴协同治理的同时，应明确大型平台在网络暴力事件中的特别责任。目前来看，我国法律体系对于大型互联网平台惩戒力度还远不能达到威慑效果。

一方面，对于网络暴力的治理，目前，在司法过程中仍主要依据网信办等监管部门的执法记录作为平台是否存在主观过错的依据，往后看，应该通过立法完善来指导司法实践。比如，刑法的单独立法处罚就十分必要。根据《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》，线下滋扰行为可依据寻衅滋事罪予以惩处；但对于网络骚扰行为，我国现行刑法并无规定。

另一方面，在行政处罚方面，前述征求意见稿中提到“因处置不及时造成公民生命健康安全等严重后果的，处十万元以上二十万元以下罚款，可责令暂停信息更新”。而以法国为例，对于大型平台的网暴相关处罚，罚金最高可达到全球营业额6%。

敬力嘉：我认为网暴治理的重心在于预防，预防网暴的症结并不在于刑法，更多应该通过监管部门和平台形成合力，完善事前的风险预防和事后的救济。

当然，对于造成严重危害后果的网暴行为，可考虑完善刑事立法，顺畅刑法事后追责的机制。比如，目前网络暴力涉及的刑法罪名包括侮辱罪、诽谤罪以及侵犯公民个人信息罪等。那么，诸如通过网暴侮辱诽谤给个体带来的损害可能相较于现实社会中侮辱诽谤的损害更大，现行的刑罚可能过轻，或可单独增设一档法定刑；又如，如果用户自愿在网络平台公开个人信息，被他人用于实施网暴，按照现行的侵犯公民个人信息罪的界定，很难将其它作为犯罪来处理，或可将非法利用公民个人信息的行为入罪。