小红书：对未主动标识的AI生成合成内容限制分发

来源：澎湃新闻

小红书将限制分发未主动标识的AI生成合成内容。

2月12日，小红书薯管家发布关于加强自主标识AI生成合成标识的公告。公告称，近期，平台收到多例利用AI生成合成技术仿冒公众人物形象、制作虚假视频的用户举报。此类未经本人授权制造的内容，即侵害了公众人物的合法权益，也因部分内容未主动做AI生成/合成标识，有损社区用户的信任。

小红书呼吁用户在发布由AI生成合成的图文或视频内容时，主动添加AI生成合成标识，便于用户甄别。标明AI创作手段不仅不会减损作品价值，反而能让交流更透明。

小红书表示，依据《人工智能生成合成内容标识办法》要求，平台将持续加强AI生成合成内容的识别检测能力，如创作者在发布环节未主动对AI生成合成内容做标记，平台将基于检测结果对未声明内容添加标识。此类未主动标识的AI生成合成内容，平台将限制分发。对于借由AI生产虚假仿冒信息、魔改经典、宣扬不良价值观的内容，发布教唆祛除AI标识的教程，平台将予以严厉打击。

公告指出，接下来，小红书将继续完善AI标识和AI造假内容的识别工作，也欢迎用户积极参与平台共治，如发现AI生成不良内容，第一时间通过举报按钮向平台反馈。

2月12日，据“网信中国”微信公众号，近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题，破坏网络生态，造成恶劣影响。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条。

部分典型案例通报包括：一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。

二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。

三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。

四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。

五、小红书账号“浪淘达人”“南坤的店”等，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件，淘宝、闲鱼、拼多多店铺“浙江智意AI”“鼎建祥旗舰店”等，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。

下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众，共同营造风清气正的网络环境。

另值得关注的是，2月12日消息，为了营造喜庆祥和、积极向上的春节网络氛围，中央网信办决定即日起开展为期1个月的“清朗·2026年营造喜庆祥和春节网络环境”专项行动。

专项行动着力整治四方面突出问题，其中包括对生成传播“数字泔水”等垃圾信息的整治，一是利用AI等新技术新应用批量生成逻辑混乱、信息空洞、高度雷同的低质内容。二是滥用AI技术对经典动画、影视作品等植入低俗暴力内容，进行戏谑恶搞。三是对文学名著、历史典故等进行“魔改”，歪曲解构优秀传统文化。四是批量炮制“父母偏心”“婆媳矛盾”“姐弟互殴”等渲染家庭矛盾、代际冲突文案和剧情，营销炒作博取流量。五是利用AI批量生成所谓“鸡汤网文”“霸总爽剧”“专家科普”等图文、短视频内容，影响网民认知判断。

澎湃新闻记者 吴雨欣