小红书今年主动发出2.1万次防网暴提醒，日均拦截违规内容超8000条

极目新闻记者 周继珣

普通人遭遇网暴后会怎么应对？小红书在一项针对疑似遭受高频攻击用户的调研中发现，仅约16%的人选择向平台举报，多数人选择删帖、注销账号或什么都不做。

为了更好地保护普通人，小红书日前宣布升级防网暴工具“小红盾”——系统将主动识别疑似受害者并发出提醒，引导用户一键开启保护。“我们希望比受害者更早一步察觉风险”，小红书网暴治理相关负责人表示，普通人面对网暴可能更加手足无措，平台需要主动往前走一步。

据了解，“小红盾”是小红书2023年上线的防网暴工具，经过升级，“小红盾”已经具备主动识别、一键防护、违规处置、心理与法律援助等多项功能。

功能升级 从被动等举报到主动防护

“在餐厅吃饭遇到旁边几个人特别吵，还抽烟，我跟他们说请小声点不要抽烟，结果换来了一些阴阳怪气的回复，过了几天发现他们竟然拍了我的照片发到网上，编造了一大堆谣言，评论区也很难看，还被我同学和老师看到了。”一位在武汉读书的大学生向记者讲述了他的经历，并表示后来还给学校写了说明书，也向平台投诉删除了谣言。

事实上，遇到网暴向平台投诉的人只是少数。小红书调研数据显示，普通人遭遇密集攻击时，仅约16%的人选择向平台举报，约30%的人选择删除内容或注销账号离开，其余大多什么都不做，独自承受。

基于这一发现，小红书升级了防网暴功能，将防护的起点从“用户举报”前移到“系统识别”——当算法识别出“疑似受害者”，平台会主动向其发送系统消息提醒，并引导用户一键打开防网暴专属工具“小红盾”。同时平台也会向“疑似施暴者”发出提醒，告知其可能已构成不友善行为，违反社区规则将被处罚。

“小红书是一个以普通人为主的社区，普通人维权意识和维权能力都比较弱”，上述治理负责人表示，开发这个功能，就是希望平台往前多走一步，帮助普通人防网暴。

中国政法大学副教授朱巍表示，网络暴力治理最关键的环节其实在事前。“网暴一旦形成，即便事后加害人受到了惩处、谣言也澄清了，对当事人造成的伤害还是很难弥补”，他认为，平台通过技术手段提前识别风险，主动向疑似受害人发出预警开启保护，是把治理动作往前挪了一步，“这比事后删帖更有价值，是平台主动履行责任的一种体现”，朱巍称。

一键防护 小红盾三年积累多重功能

据介绍，“小红盾”是小红书2023年上线的防网暴工具，用户直接搜索“网暴”，就会置顶出现“小红盾”入口。除主动识别功能外，“小红盾”还包含一键防护、违规处置、心理与法律援助等功能。今年以来，“小红盾”向疑似受害者发送温馨提醒2.1万次，平均每天主动拦截超8000条违规内容。

当用户进入“小红盾”并开启一键防护后，可在7天内屏蔽陌生人评论、私信等互动，到期后用户也可自主选择是否延长防护；用户的评论区也会自动触发防火墙，所有评论由后台先审后发；此外，小红盾还设置独立审核队列，审核人员可查看记录并进行回审。

对于打开“小红盾”的用户，平台会对内容、账号以及设备层面进行全面“扫描”。内容方面，平台会对辱骂、隐私泄露、挂人开盒、组织围攻等进行分级处置，覆盖笔记、评论、私信和群消息等领域；账号方面，平台会对短期内多次产生施暴行为的账号打标，按程度执行禁言直至封号；针对有些施暴者换不同账号施暴的情况，平台会对确认施暴者在设备层面进行关联处置，降低换号继续攻击的可能，在违规账号被封禁或注销后同步清理其历史评论和群消息。若施暴者的言行涉嫌违法犯罪，平台会依法固定相关证据，配合有关部门的调查取证工作，并按照要求移交线索，依法追究施暴者的法律责任。

在“小红盾”内，平台还与北京师范大学合作开通了“红薯地援助热线”，为需要心理疏导和法律咨询的用户提供进一步帮助。

参与“红薯地援助热线”建设的北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉表示，网络暴力对当事人的伤害具有显著的滞后性与弥散性。“很多人以为网暴的伤害顶多持续几天，等骂声过去就好了，但在热线中接触到的来访者，真正让他们走不出来的往往不是某一条攻击性评论，而是那种‘好像全世界都在审判我’的无助感”，方增泉称，这种被持续围观和评判的状态，会让人逐渐丧失对自我价值的确认，甚至出现社交回避、不敢正常发声的情况。

热线要做的，是在这个关口接住他们——用专业的心理疏导帮他们稳定情绪、重建认知，同时用清晰的维权指引帮他们走出困境。“当一个人知道有人能理解自己的处境，并且能给出清晰的行动方向时，他才能慢慢从被动受害的状态中走出来。”

三要素触发预警 正常批评与维权不算网暴

在网暴的判定上，小红书也明确了“指向性”“伤害性”和“聚集或持续性”，是触发预警的三大要素。

具体而言，指向性，是指攻击明确指向特定的某个人，是对具体的人的攻击，不是对现象、观点或群体的泛泛议论；伤害性，是指内容含侮辱谩骂、造谣诽谤、开盒曝私、恶意玩梗中伤、身份与地域歧视等，对当事人的名誉、隐私、心理健康造成实质伤害；聚集或持续性，是指攻击呈现大量聚集，或者长期反复纠缠，两者具备其一即触发预警。

在明确“什么是网暴”时，小红书也说明了“什么不被认定为网暴”，即针对内容本身的批评与讨论、正常的消费维权、涉及公共利益的检举揭发与舆论监督，不被判定为网络暴力。

“小红书的底色是真诚分享”，上述网暴治理负责人表示，社区里有大量真实的体验分享和消费维权，这些声音必须被保护，并表示不会打着反网暴的旗号去影响正常表达，“把正常批评误判成网暴，是另一种伤害。”

（来源：极目新闻）