广东
小红书加强在暑期对涉未成年人的有害内容治理。近日，南都N视频记者从小红书方面获悉，“清朗·未成年人网络保护”专项行动开展以来，平台已全面排查数十类涉未成年人高发风险，累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个。其中，小红书查处了不少典型违规内容，针对借儿童熟悉的动画、童话IP传播血腥暴力猎奇内容，以“玩梗”形式美化自我伤害的行为，甚至是以“俱乐部招聘”名义诱骗未成年人软色情陪聊等。 另外，平台还对涉未成年人的商品与交易同步加强管控，如购买盲盒抽卡、刀具等风险商品进行限制，严控商家利用未成年人形象兜售、宣传商品等。
严打魔改动画、煽动自残、诱骗未成年人不当交友等内容
在治理进展公告中，小红书公示了专项期间查处的典型案例。有账号利用AI技术魔改经典动画并植入恐怖、低俗元素，如恶意生成恐怖版《天线宝宝》视频；有账号以“俱乐部招聘”话术为伪装，利用谐音发布招聘笔记，再用黑灰产暗语为诱饵，诱骗未成年人脱离平台不当交友；在巡查中还发现有账号发布或传播涉未成年人暴力的视频，或煽动自残、轻生念头的极端图文，严重危害未成年人身心健康。相关账号均被永久封禁，相关有害笔记全量下架。
特别是针对AI魔改视频的治理，小红书方面强调，魔改视频的治理不仅针对未成年人，而且是面向全站。平台已将AI魔改视频纳入常态化治理，以AI魔改四大名著、历史革命英烈题材等影视作品，以及利用知名动画形象制作严重歪曲原作、渲染暴力低俗内容为重点整治目标，并从存量清理、拦截策略增补与AIGC识别策略优化等方面推进。仅在7月，平台新增清理处置AI魔改视频违规内容1255条，处置违规账号27个，被处置账号涉及高频发布AI魔改《西游记》《甄嬛传》及《海绵宝宝》等儿童邪典动画内容。
限制未成年人买盲盒抽卡，严控商家利用未成年人宣传商品
除了针对纯内容向的治理，小红书对涉未成年人的商品与交易同步加强管控。据了解，平台已建立社区、电商等多部门统一的管控机制，一方面限制未成年人接触和购买盲盒抽卡、刀具等风险商品，另一方面严格管控商家利用未成年人形象兜售、宣传商品，以及上架不利于未成年人身心健康的商品。管控载体覆盖商品、笔记与直播，平台通过机审策略、算法模型与人工审核识别商品描述中的违规文字、图片、视频，对违规商品和店铺予以限流、冻结处置。
在公布专项行动治理进展和典型案例的同时，小红书也对用户做出了安全提示。例如，在卡通漫画可能被AI魔改为有毒内容场景下，小红书建议用户若发现画面怪异、暴力或引起不适时，立刻关闭并点击举报，切勿转发，也建议家长们留意孩子日常观看记录，优先设置“未成年人模式”隔绝风险。据悉，未成年人模式关闭打赏、充值和交易消费等功能，屏蔽评论、私信、关注及陌生人消息；默认每日使用时长不超过40分钟，每日22时至次日6时暂停登录。
据了解，进入未成年人模式后，所有浏览内容将通过大模型初筛结合人工逐一复审，确保均为积极健康、有正向价值的优质内容。目前，未成年人模式内容池覆盖教育学习、知识科普、才艺兴趣、生活分享、安全教育和传统文化等板块。相比主端，未成年人模式使用独立内容池，推荐和搜索均在该内容范围内进行。
暑期消费旺季，小红书加大违规内容治理力度
南都记者发现，进入暑期消费旺季以来，小红书加大了对平台上违规内容治理的力度。
8月7日，小红书刚刚发布对网络娱乐团播乱象整治的成果，并称会坚决整治团播低俗擦边、诱导非理性消费、未成年人参与打赏、饭圈互撕引战等突出问题。
几日前，小红书方面公布关于暑期安全旅行专项的治理公告，表示自7月以来，小红书持续加强对出行类相关内容和经营环境专项巡查，对“飞拉达”“双石门”“赛里木湖”“英山斗笠沟”等热门户外景点做风险提示和搜索保障、针对以“旅行搭子”“拼车拼团”等名义的虚假引流、欺诈产业链做线索摸排，对无资质经营的旅行社、工作室、个人账号从严巡查清理。
7月底，小红书还启动了抵制网暴、整治饭圈乱象专项行动启动，涉及体育、文娱、演出等几大领域，并且从严处置AI造谣、AI换脸伪造、人肉搜索曝光隐私等违规账号。
采写：南都N视频记者 徐冰倩
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
