网易首页 > 网易号 > 正文 申请入驻

小红书首次公布AI治理主张:坚决反对四类AI行为,给AI创作划出清晰边界

0
分享至

4月27日,小红书首次公布平台对AI内容的治理主张,并在北京举办首届AI治理开放日。此次AI治理主张共分为“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”两大板块,以给到创作者清晰指引。

小红书明确了对待AI相关现象的核心态度:鼓励AI作为创意放大器,反对AI作为造假工具与低质内容生产机器,所有AI参与创作的内容均需主动标识。

鼓励AI成为创作者的创意放大器

沟通会上,小红书首次明确“平台鼓励什么”?核心指向一类内容:创作者以AI为创意的放大器,生产出的有审美、有叙事、有真实信息增量的优质内容。具体来说,小红书欢迎创作者用AI做这几件事:

一、是利用AI提升作品的信息价值,例如将复杂知识变得更具可视化的科普内容,让难懂的信息变得直观易懂;

二、是利用AI创作有辨识度的虚拟角色,或对已有IP进行有亮点的二次创作;

三、是借助AI进行视觉创作,产出有审美、有叙事的好作品,包括艺术插画、绘画,以及具备剧情逻辑的电影感短片。

小红书AI治理主张摘录

“发布AI治理主张不是为了限制创作,而是为了给创作者提供更清晰的方向。” 小红书用户信任中心负责人吉吉表示。

在小红书鼓励的方向上,也已经有不少创作者探索出了有价值的AI创作路径。央美国画毕业生@一方画猫呢 就是其中之一。她专攻宋代院体画,一幅作品需要近一个月的精细打磨,但在AI出现之前,因为缺少动画制作能力,这些静态的精美画作无法被更生动地呈现,如今,AI帮她突破了“画不能动”的技术瓶颈。“当我画的小龙猫可以实现穿云而过的效果,一下子感觉来了一个动画团队。”一方在开放日现场分享道。在她看来,AI是创作最后阶段的视觉效果放大器,而画面的原创性、核心想法和每一笔手绘,仍然由自己完成。

此外,AI治理主张再次强调了创作者应对AI参与创作的内容进行主动标识,未进行标识的AI内容,平台将在识别后统一添加AI标识贴条。

吉吉向雷峰网表示:鼓励AI标识是为了保障用户的知情权,非违规内容,AI贴条不会影响流量。目前,小红书已上线针对AI笔记贴条的申诉通道,创作者如果对AI贴条有异议,可通过该通道反馈。

坚决反对破坏社区真实底色的AI行为

在明确“鼓励的AI内容”的同时,小红书也梳理出了四类平台反对的AI行为:利用AI违规运营、利用AI造假、利用AI侵权,以及利用AI进行低质创作。

具体来说,平台反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为;反对AI造假行为,包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息,或是恶搞经典作品、借热点进行低质营销;反对利用AI侵犯肖像权、著作权的行为;也反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面,或是传播不良价值观等低质创作行为。

“小红书社区是真实的人与人之间的连接。AI侵权、AI造假等行为破坏了社区真诚分享的基础,也挤压了真实创作者的空间。” 吉吉在分享中表示,平台会根据违规程度采取梯度处理,包括限制曝光、警告、封禁等;对于明确由AI托管运营、无真实人类参与的账号,平台将予以封禁。

据悉,今年以来,小红书累计处置各类AI不良行为超百万例,其中AI托管账号超80万个、AI造假笔记近15万篇。

与此同时,小红书在AI治理上持续加码:1月19日发布《社区公约2.0》,明确反对虚假,鼓励用户对AI内容进行主动标识;2月12日发布加强自主标记AI生成合成标识的公告;3月10日发布打击AI托管运营账号的治理公告;4月27日首次完整输出AI治理主张,形成对创作者和用户的完整指引。

对小红书而言,此次AI治理主张的发布,既是社区“真诚分享”价值观在AI时代的延续,也是和社区内创作者们的一次有效沟通。当越来越多平台开始思考与AI的距离,内容生态才有可能在技术进步中守住“人”的价值。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1.64万亿元!前10月个税收入超去年全年

1.64万亿元!前10月个税收入超去年全年

第一财经资讯
2026-11-20 16:48:10
3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

墨策讲历史
2026-11-18 23:11:36
2026-11-20 19:08:49
雷峰网 incentive-icons
雷峰网
关注智能与未来!
71740文章数 656269关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
旅游
艺术
房产
军事航空

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

房产要闻

6.6亿!海口卖地!

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版