网易首页 > 网易号 > 正文 申请入驻

小红书首次公布AI治理主张:可借助AI放大创意,对AI不良行为零容忍

0
分享至

4月27日,小红书首次完整输出平台对AI内容的治理主张,并在北京举办首届AI治理开放日。此次AI治理主张共分为“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”两大板块,以给创作者清晰指引。

小红书明确了对待AI相关现象的核心态度:以真实性与原创价值作为AI内容治理的根本标尺,鼓励AI作为创意放大器,反对AI作为造假工具与低质内容生产机器,所有AI参与创作的内容均需主动标识。

鼓励AI成为创作者的创意放大器,所有AI参与创作内容均需标识

此次发布的AI治理主张,核心之一是明确“平台鼓励什么”,核心指向一类内容:创作者以AI为创意的放大器,生产出的有审美、有叙事、有真实信息增量的优质内容。

具体来说,小红书欢迎创作者用AI做这几件事:一是利用AI提升作品的信息价值,例如将复杂知识变得更具可视化的科普内容,让难懂的信息变得直观易懂;二是利用AI创作有辨识度的虚拟角色,或对已有IP进行有亮点的二次创作;三是借助AI进行视觉创作,产出有审美、有叙事的好作品,包括艺术插画、绘画,以及具备剧情逻辑的电影感短片。

“发布AI治理主张不是为了限制创作,而是为了给创作者提供更清晰的方向。”小红书用户信任中心负责人吉吉表示。她介绍,平台观察了创作者和普通用户使用AI的各种方式,访谈了大量创作者,听取他们在使用AI过程中的困惑、尝试和担忧。基于社区一贯坚持的“真诚分享”原则,小红书第一次完整地输出了对AI的主张,希望给创作者和用户一个清晰的指引。吉吉透露,平台会将公域流量优先向优质内容倾斜。

在小红书鼓励的方向上,也已经有不少创作者探索出了有价值的AI创作路径。央美国画毕业生@一方画猫呢就是其中之一。她专攻宋代院体画,一幅作品需要近一个月的精细打磨,但在AI出现之前,因为缺少动画制作能力,这些静态的精美画作无法被更生动地呈现。如今,AI帮她突破了“画不能动”的技术瓶颈,让画面丰富度和可观赏性大幅提升。“当我画的小龙猫可以实现穿云而过的效果,一下子感觉来了一个动画团队。”一方在开放日现场分享道。在她看来,AI是创作最后阶段的视觉效果放大器,而画面的原创性、核心想法和每一笔手绘,仍然由自己完成。

此外,AI治理主张再次强调了创作者应对AI参与创作的内容进行主动标识,未进行标识的AI内容,平台将在识别后统一添加AI标识贴条。吉吉表示,鼓励AI标识是为了保障用户的知情权,非违规内容,AI贴条不会影响流量。目前,小红书已上线针对AI笔记贴条提示的申诉通道,创作者如果对AI贴条有异议,可通过该通道反馈。

坚决反对破坏社区真实底色的AI行为

在明确“鼓励的AI内容”的同时,小红书也梳理出了四类平台反对的AI行为:利用AI违规运营、利用AI造假、利用AI侵权,以及利用AI进行低质创作。

具体来说,平台反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为;反对AI造假行为,包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息,或是恶搞经典作品、借热点进行低质营销;反对利用AI侵犯肖像权、著作权的行为;也反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面,或是传播不良价值观等低质创作行为。

“小红书社区是真实的人与人之间的连接。AI侵权、AI造假等行为破坏了社区真诚分享的基础,也挤压了真实创作者的空间。”吉吉在分享中表示,平台会根据违规程度采取梯度处理,包括限制曝光、警告、封禁等;对于明确由AI托管运营、无真实人类参与的账号,平台将予以封禁。据悉,今年以来,小红书累计处置各类AI不良行为超百万例,其中AI托管账号超80万个、AI造假笔记近15万篇。

AI科普创作者@大师的AI小灶在开放日现场表示,AI飞速发展的时代,普通人面前有许多不可忽视的真相和风险。他拆解了AI幻觉、AI造假等议题。“AI跑得很快,但人的辨别意识和平台规则需要同步跟上,这个时间差正是普通人需要警惕的风险空间。”他指出,平台对AI内容的系统治理,不是可有可无的选择题,而是必须做的功课。

今年以来,小红书在AI治理上持续加码:1月19日发布《社区公约2.0》,明确反对虚假,鼓励用户对AI内容进行主动标识;2月12日发布加强自主标记AI生成合成标识的公告;3月10日发布打击AI托管运营账号的治理公告;4月27日首次完整输出AI治理主张,形成对创作者和用户的完整指引。

对小红书而言,此次AI治理主张的发布,既是社区“真诚分享”价值观在AI时代的延续,也是和社区内创作者们的一次有效沟通。当越来越多平台开始思考与AI的距离,内容生态才有可能在技术进步中守住“人”的价值。

上游新闻 涂源

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
詹姆斯22+6创NBA第1神迹,76人4连胜创3大纪录!埃奇库姆末节暴走,恩比德18中7

詹姆斯22+6创NBA第1神迹,76人4连胜创3大纪录!埃奇库姆末节暴走,恩比德18中7

一将篮球
2026-11-19 11:27:47
太心酸了!丈夫一句“我送外卖你出轨”引发轩然大波:00后妻子被曝一年出轨十多人,跑外卖丈夫多次原谅后心灰意冷,决定放手

太心酸了!丈夫一句“我送外卖你出轨”引发轩然大波:00后妻子被曝一年出轨十多人,跑外卖丈夫多次原谅后心灰意冷,决定放手

火山詩话
2026-10-25 13:40:12
高市这趟没白来,和普京谈了30分钟,日俄首脑7年来第一次晤面

高市这趟没白来,和普京谈了30分钟,日俄首脑7年来第一次晤面

兰亭墨未干
2026-11-19 12:43:47
一篇内参让领导人反思,中央由此取消副总理级专机,她究竟写了什么

一篇内参让领导人反思,中央由此取消副总理级专机,她究竟写了什么

瑾瑜聊情感
2025-08-23 09:43:36
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
红果短剧再踩雷,一切都结束了!

红果短剧再踩雷,一切都结束了!

广告创意
2026-11-18 18:38:58
广东输山东赛后!无一人合格,徐杰彻底丢顶薪,阿祖水货,博日奇裁早了!

广东输山东赛后!无一人合格,徐杰彻底丢顶薪,阿祖水货,博日奇裁早了!

体坛卡卡说
2026-11-19 12:48:14
售卖“蒂法手办”被抓!原因竟是盗版做得比正版还好,完全分不清

售卖“蒂法手办”被抓!原因竟是盗版做得比正版还好,完全分不清

邻居的小蜘蛛
2026-11-17 16:27:34
为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

另子维爱读史
2026-08-04 21:35:07
独行侠116-94大胜勇士,弗拉格33+5+9,伦德伯格13+5+5

独行侠116-94大胜勇士,弗拉格33+5+9,伦德伯格13+5+5

懂球帝
2026-11-19 11:38:07
官媒发文!锐评张颂文新剧,不提演技却字字珠玑,陈凯歌没说错

官媒发文!锐评张颂文新剧,不提演技却字字珠玑,陈凯歌没说错

洲洲影视娱评
2026-11-19 12:38:01
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-17 10:53:06
最后关头,老黄被自己人狠捅了一刀

最后关头,老黄被自己人狠捅了一刀

迷世书童
2026-11-19 00:05:12
意媒:皇马欲6-7千万欧出售恩德里克,但要加入回购条款

意媒:皇马欲6-7千万欧出售恩德里克,但要加入回购条款

懂球帝
2026-11-19 01:11:06
又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

汉史趣闻
2026-09-10 18:28:47
《GTA6》连坏习惯都模拟了:开车玩手机后果很严重

《GTA6》连坏习惯都模拟了:开车玩手机后果很严重

游民星空
2026-11-19 12:11:25
曾被开价一亿包养的日本前人气AV女优滨崎真绪在香港被人下药入住ICU?经纪人失职理亏拿港警当挡箭牌,网友痛批“该炒”!

曾被开价一亿包养的日本前人气AV女优滨崎真绪在香港被人下药入住ICU?经纪人失职理亏拿港警当挡箭牌,网友痛批“该炒”!

澳门月刊
2026-11-02 09:31:58
谢霆锋现身西湖边试吃西湖醋鱼,网友喊话:“别停,再来第二筷”

谢霆锋现身西湖边试吃西湖醋鱼,网友喊话:“别停,再来第二筷”

韩小娱
2026-11-17 10:28:00
发生在医院里的八卦有多炸裂?网友:我来总结,医院里的主任是最多情的

发生在医院里的八卦有多炸裂?网友:我来总结,医院里的主任是最多情的

带你感受人间冷暖
2026-11-07 00:05:26
火箭胜步行者乌度卡采访:申京无碍,杜兰特牺牲自己,不担心谢泼德!

火箭胜步行者乌度卡采访:申京无碍,杜兰特牺牲自己,不担心谢泼德!

篮球资讯达人
2026-11-19 12:23:42
2026-11-19 13:36:49
上游新闻 incentive-icons
上游新闻
上游新闻官方账号
271905文章数 585757关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
数码
本地
时尚
艺术

房产要闻

6.6亿!海口卖地!

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

本地新闻

乌兰察布:以前种土豆,现在种Token

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

无障碍浏览 进入关怀版