小红书首次公布AI治理主张：可借助AI放大创意，对AI不良行为零容忍

4月27日，小红书首次完整输出平台对AI内容的治理主张，并在北京举办首届AI治理开放日。此次AI治理主张共分为“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”两大板块，以给创作者清晰指引。

小红书明确了对待AI相关现象的核心态度：以真实性与原创价值作为AI内容治理的根本标尺，鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器，所有AI参与创作的内容均需主动标识。

鼓励AI成为创作者的创意放大器，所有AI参与创作内容均需标识

此次发布的AI治理主张，核心之一是明确“平台鼓励什么”，核心指向一类内容：创作者以AI为创意的放大器，生产出的有审美、有叙事、有真实信息增量的优质内容。

具体来说，小红书欢迎创作者用AI做这几件事：一是利用AI提升作品的信息价值，例如将复杂知识变得更具可视化的科普内容，让难懂的信息变得直观易懂；二是利用AI创作有辨识度的虚拟角色，或对已有IP进行有亮点的二次创作；三是借助AI进行视觉创作，产出有审美、有叙事的好作品，包括艺术插画、绘画，以及具备剧情逻辑的电影感短片。

“发布AI治理主张不是为了限制创作，而是为了给创作者提供更清晰的方向。”小红书用户信任中心负责人吉吉表示。她介绍，平台观察了创作者和普通用户使用AI的各种方式，访谈了大量创作者，听取他们在使用AI过程中的困惑、尝试和担忧。基于社区一贯坚持的“真诚分享”原则，小红书第一次完整地输出了对AI的主张，希望给创作者和用户一个清晰的指引。吉吉透露，平台会将公域流量优先向优质内容倾斜。

在小红书鼓励的方向上，也已经有不少创作者探索出了有价值的AI创作路径。央美国画毕业生@一方画猫呢就是其中之一。她专攻宋代院体画，一幅作品需要近一个月的精细打磨，但在AI出现之前，因为缺少动画制作能力，这些静态的精美画作无法被更生动地呈现。如今，AI帮她突破了“画不能动”的技术瓶颈，让画面丰富度和可观赏性大幅提升。“当我画的小龙猫可以实现穿云而过的效果，一下子感觉来了一个动画团队。”一方在开放日现场分享道。在她看来，AI是创作最后阶段的视觉效果放大器，而画面的原创性、核心想法和每一笔手绘，仍然由自己完成。

创作者@一方画猫呢 视频截图。图源 小红书

此外，AI治理主张再次强调了创作者应对AI参与创作的内容进行主动标识，未进行标识的AI内容，平台将在识别后统一添加AI标识贴条。吉吉表示，鼓励AI标识是为了保障用户的知情权，非违规内容，AI贴条不会影响流量。目前，小红书已上线针对AI笔记贴条提示的申诉通道，创作者如果对AI贴条有异议，可通过该通道反馈。

坚决反对破坏社区真实底色的AI行为

在明确“鼓励的AI内容”的同时，小红书也梳理出了四类平台反对的AI行为：利用AI违规运营、利用AI造假、利用AI侵权，以及利用AI进行低质创作。

具体来说，平台反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为；反对AI造假行为，包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息，或是恶搞经典作品、借热点进行低质营销；反对利用AI侵犯肖像权、著作权的行为；也反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面，或是传播不良价值观等低质创作行为。

“小红书社区是真实的人与人之间的连接。AI侵权、AI造假等行为破坏了社区真诚分享的基础，也挤压了真实创作者的空间。”吉吉在分享中表示，平台会根据违规程度采取梯度处理，包括限制曝光、警告、封禁等；对于明确由AI托管运营、无真实人类参与的账号，平台将予以封禁。据悉，今年以来，小红书累计处置各类AI不良行为超百万例，其中AI托管账号超80万个、AI造假笔记近15万篇。

AI科普创作者@大师的AI小灶在开放日现场表示，AI飞速发展的时代，普通人面前有许多不可忽视的真相和风险。他拆解了AI幻觉、AI造假等议题。“AI跑得很快，但人的辨别意识和平台规则需要同步跟上，这个时间差正是普通人需要警惕的风险空间。”他指出，平台对AI内容的系统治理，不是可有可无的选择题，而是必须做的功课。

今年以来，小红书在AI治理上持续加码：1月19日发布《社区公约2.0》，明确反对虚假，鼓励用户对AI内容进行主动标识；2月12日发布加强自主标记AI生成合成标识的公告；3月10日发布打击AI托管运营账号的治理公告；4月27日首次完整输出AI治理主张，形成对创作者和用户的完整指引。

对小红书而言，此次AI治理主张的发布，既是社区“真诚分享”价值观在AI时代的延续，也是和社区内创作者们的一次有效沟通。当越来越多平台开始思考与AI的距离，内容生态才有可能在技术进步中守住“人”的价值。

上游新闻 涂源