明确标尺守护价值 平台加速探索AI治理

本文转自：人民网

人民网北京5月6日电 （记者孙阳）随着人工智能技术深度介入内容创作领域，如何平衡技术创新与社区生态健康成为平台面临的重要课题。近日，小红书在北京举办首届AI治理开放日，系统公布平台对AI内容的完整治理主张，明确以真实性与原创价值作为根本标尺，鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器。

据悉，此次发布的AI治理主张分为“平台鼓励的AI内容及行为”和“平台反对的AI内容及行为”两大板块。在鼓励方向上，小红书表示，欢迎创作者将AI作为创意的放大器，生产有审美、有叙事、有真实信息增量的优质内容。具体包括三类方向：利用AI提升作品的信息价值，如将复杂知识可视化的科普内容；利用AI创作有辨识度的虚拟角色或对已有IP进行二次创作；借助AI进行视觉创作，产出艺术插画、绘画及具备剧情逻辑的电影感短片。

在实践中，已有创作者探索出有价值的AI创作路径。中央美术学院国画毕业生一方，此前一幅作品需要近一个月的精细打磨，因缺少动画制作能力，静态画作难以被生动呈现。如今，AI帮她突破了技术瓶颈，让画面丰富度和可观赏性大幅提升。在她看来，AI是创作最后阶段的视觉效果放大器，而画面的原创性、核心想法和每一笔手绘，仍然由自己完成。

在明确鼓励方向的同时，小红书也梳理出四类平台明确反对的AI行为：利用AI违规运营、利用AI造假、利用AI侵权，以及利用AI进行低质创作。具体来看，平台反对利用AI全自动托管账号、AI教唆做号等扰乱社区秩序的行为；反对利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息、恶搞经典作品、借热点进行低质营销；反对利用AI侵犯肖像权、著作权；也反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面或传播不良价值观等低质创作行为。

小红书用户信任中心负责人吉吉认为，AI侵权、AI造假等行为破坏了社区真诚分享的基础，也挤压了真实创作者的空间。平台会根据违规程度采取梯度处理，包括限制曝光、警告、封禁等；对于明确由AI托管运营、无真实人类参与的账号，平台将予以封禁。

“平台对AI内容的系统治理不是可有可无的选择题，而是必须做的功课。”AI科普创作者“大师的AI小灶”在开放日上表示，在AI飞速发展的时代，普通人面临许多不可忽视的真相和风险。AI幻觉、AI造假等议题需要引起重视，人的辨别意识和平台规则需要同步跟上。