当AI批量生产“劣质假人”，小红书决定不再沉默

来源：澎湃新闻

　　4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。

　　发布会的背后，一个难以回避的现实随之浮出水面：数据显示，2025年中国动画微短剧市场规模同比激增276.3%，在播AI剧突破12万部。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。

　　当人们开始质疑“屏幕对面是否还有人”时，内容平台赖以生存的信任根基就在动摇。

　　小红书这次选择站出来，试图回答那些令所有平台纠结的问题：AI究竟是创意的放大器，还是造假的生产线？那些曾经以“真实分享”为底色的社区，将如何面对？

　　既不拒绝，也不放任

　　内容为王的时代，AI却带来了“造假、侵权、低质内容”等新挑战，它悄悄瓦解的是人与内容之间的信任基础。仅2026年以来，小红书累计处置AI不良行为超百万例，其中AI托管账号超过80万个、AI造假笔记近15万篇。一个精心构思的内容，完全可能被一套AI模板快速复制，并在算法推荐下吞噬掉原创者的生存空间。

AI托管账号自动发文

　　更值得警惕的是“AI托管账号”这条灰色产业链。部分账号完全由AI工具完成注册、发布、互动，主页所有公开笔记均为代发。用户以为自己点赞的是一个有趣的灵魂，实际面对的是一段毫无感知的代码。比如曾被网安部门预警的OpenClaw，只需自然语言指令，就能自动完成内容生产和社交互动。而这被小红书认为是对社区底层价值观的根本性违背。

　　当公众不再相信眼见为实，谁会因此受益？答案是，用户和平台都不会是受益者，问题根源不在于AI本身，而在于一个正在加速发生的悖论。

　　AI越来越强，核心驱动力之一是海量高质量数据的持续供给。然而，高质量数据的稀缺性正在成为业界普遍担忧的问题，从AI诞生的那一刻起，低质量、同质化的AI生成内容就开始大量填充互联网，而用这些内容反复训练AI，研究显示可能导致模型性能退化，输出越来越趋于单一、重复、失真，这一现象在学界被称为“模型塌陷”。明白这个逻辑，结论就清晰了——真正源于人类经验、独立思考与原创表达的内容，其价值正变得前所未有地珍贵。

　　所以，小红书在本次AI治理主张发布中点出了关键：平台不应在“完全拒绝AI”和“放任AI生长”之间二选一，而应把握好效率与真实、工具与底线之间的尺度。这句话之所以重要，是因为它承认了平台不能偷懒，也不能假装AI不存在。治理AI，本质上是在人工智能泛滥的时代里，重新为人的价值划出一条底线。

　　一个主张，两张清单

　　在这次治理主张中，小红书鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器，所有AI生成合成内容需主动标识。并明确了用“鼓励什么”和“反对什么”两张清单降低创作者的认知成本，这种清晰的态度在行业中并不多见。

AI治理主张部分摘录

　　核心内容并不复杂：鼓励内容包括如实标识AI参与和AI创意、以AI实现信息价值或角色创作、提升视觉审美；重点鼓励三类方向AI信息价值、AI角色创作、AI视觉创作。严禁行为则指AI造假、AI低质、AI侵权、AI账号扰乱秩序。

　　这套治理框架的核心逻辑是把AI定位为“创意的放大器”，而不是“创意的替代品”。

　　技术层面如何落地？小红书方在现场透露，平台已建立多重识别能力：如不断提升对图片和视频中AI生成、深度伪造、异常创作痕迹的自动识别水平；结合历史审核结果和账号信息，判断同类风险是否重复扩散；通过日常巡查和风险预警，实现“早发现、早拦截”。

小红书上线了针对AI笔记提条提示的申诉通道

　　当然，采取技术对抗并非就能高枕无忧，AI生成模型迭代速度极快，尤其是深度伪造技术。小红书的识别能力能否长期跑赢规避手段，还需要时间检验，“道高一尺魔高一丈”的状况可能长期存在。此外，“主动标识”依赖创作者的自觉，平台的后续稽查压力依然很大。

　　行业样本，平台答卷

　　央美国画毕业生一方专攻宋代院体画，一幅作品耗时近一个月。传统国画的精细笔触与晕染效果，让画动起来几乎不可能。从2024年末开始，她尝试用多个AI视频生成工具，将静态画作输入，配合简单分镜指令，就能让国画自然地动起来。在一方看来，画面的创作、原创性和整体想法，必须由手工完成，AI是最后阶段的放大器。

创作者利用AI把国画作品“动起来”

　　这个案例恰好呼应了小红书的治理主张：AI不是用来替代创作过程的，而是用来释放创作者原有能力范围之外的想象力的。更重要的是，一方没有隐瞒AI的使用，她主动标识，坦诚分享，这种态度本身就是对社区底色的正向强化。

　　从行业角度看，小红书的策略提供了一种可参照的样本。它既没有对AI采取全面封杀，也没有放任自流，而是在效率与真实之间走了一条中间路线，并率先给出了态度鲜明、规则清晰的治理原则，这本身就是对行业的一种推动。

　　对其他平台而言，小红书的方案提供了一个可参考的模板。这套方案当然未必完美，但至少直面了一个基本命题：平台能成为什么样子，取决于它如何与AI共处。如果平台的治理长期缺位，结果必然是劣币驱逐良币。

　　对普通创作者来说，这次治理主张则传递了一个清晰信号，只要坚持原创、合理使用AI工具，不仅不会受到影响，反而会获得更清晰的成长路径。

　　正如一方所说，AI只能呈现一瞬间的结果，无法替代绘画过程本身的治愈。毕竟，人们最终沉淀在一个社区里，不是因为那里有最丰富的信息，而是因为那里有最真实的人。AI不会停下进化的脚步，平台能做的，就是让“在场”的人被看见，让“不得不在场”的机器不会喧宾夺主。