小红书公布“AI治理主张”：反对利用AI全自动托管账号

封面新闻记者 张馨心

“发布AI治理主张不是为了限制创作，而是为了给创作者提供更清晰的方向。此外，平台会将公域流量优先向优质内容倾斜。”4月27日，小红书用户信任中心负责人表示。

当日，小红书在京举办“AI治理开放日”。上述负责人表示，以真实性与原创价值作为AI内容治理标尺，反对AI作为造假工具与低质内容生产机器，AI参与创作的内容均需主动标识。

小红书用户信任中心负责人。主办方供图

鼓励哪些AI行为？

据介绍，此次发布的AI治理主张，主要内容之一是明确“平台鼓励什么？”核心指向一类内容：创作者以AI为创意的放大器，生产出的有审美、有叙事、有真实信息增量的优质内容。

具体来说，欢迎创作者利用AI提升作品信息价值，例如将复杂知识变得更具可视化的科普内容，让难懂的信息变得直观易懂；利用AI创作有辨识度的虚拟角色。借助AI进行视觉创作，产出有审美、有叙事的好作品，包括艺术插画、绘画，以及具备剧情逻辑的电影感短片。

四类“AI行为”需注意

在明确“鼓励的AI内容”的同时，平台也梳理出四类反对的AI行为，即利用AI违规运营、利用AI造假、利用AI侵权，以及利用AI进行低质创作。

具体来说，反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为；反对AI造假行为，包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息，或恶搞经典作品、借热点进行低质营销；反对利用AI侵犯肖像权、著作权的行为；反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面，或传播不良价值观等低质创作行为。

“AI侵权、AI造假等行为破坏了社区真诚分享的基础，也挤压了真实创作者的空间。”上述负责人表示，平台会根据违规程度采取梯度处理，包括限制曝光、警告、封禁等。对于明确由AI托管运营、无真实人类参与的账号，将予以封禁。

据悉，今年以来，小红书累计处置各类AI不良行为超百万例，其中AI托管账号超80万个、AI造假笔记近15万篇。

平台如何识别AI内容？

记者了解到，平台会从两个维度识别AI内容：用户主动标识和平台技术识别。

在用户主动标识方面，鼓励创作者在发布时主动标明AI参与方式，对未经标注的AI内容，平台识别后将添加标识。

在技术识别方面，平台持续建设对AI生成内容的识别能力，包括不断提升对图片和视频中AI生成、编辑、伪造内容的自动识别水平，尤其加强对人脸深度伪造、合成画面和异常创作痕迹的发现能力；结合历史审核结果、相似内容和相关账号信息，快速判断同类风险内容是否重复出现、扩散传播；通过日常巡查和风险预警，及时清理已有问题内容，并尽早拦截新增风险内容。

同时，已上线针对AI笔记贴条提示的申诉通道，创作者如对AI贴条有异议，可通过该通道反馈。