网易首页 > 网易号 > 正文 申请入驻

谁在瑟瑟发抖?AI生成内容必须“亮明身份”

0
分享至

01

AI生成内容告别“隐身”时代

“AI‘假孙子’总算现原形了。”日前,北京市民刘先生打开一家短视频平台,发现之前奶奶爱看的“萌娃做饭”短视频下面多了一行小字:“作者提示:内容为AI技术制作,虚构内容请谨慎甄别”。

这下老人总该相信,这些一两岁的孩子洗菜烧火都是假的了。

这一天,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《办法》)正式实施,所有AI生成的文字、图片、视频等内容都要“亮明身份”。而人工智能生成合成内容标识分“显式标识”和“隐式标识”两种。显式标识是指用户可明显感知的标识,隐式标识则是采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。


《人工智能生成合成内容标识办法》正式落地

如果用户不自主打显式标识,平台在内容上架或上线时会进行审核,对未标识或疑似生成内容添加风险提示。确如吴浩所说,记者不打“电子身份证”直接上传,小红书和抖音会出现“笔记含AI生成内容”“疑似AI生成”的字样。

02

在合规与效率间挣扎的内容创作者

“账号权重可能更被动”,一位从业者道出焦虑。新规要求AI生成的文字、图片、音频等六类内容必须添加显式标识(如“AI生成”标签)和隐式标识(如元数据水印)。


文字内容的标识样式

但争议在于边界仅用AI改错字、润色语序无需标识;一旦涉及“可辨识的AI段落或实质性改写”,则必须标注。这种模糊性让创作者陷入两难——过度标注可能降低内容吸引力,未标注则面临平台强制打标“疑似AI”的风险,导致账号权重受损。非常现实的是依赖AI批量产出的营销号、搬运工将因标识暴露而丧失“伪装红利”,生存空间被大幅挤压。

02

扛下成本与误判的双重压力的平台

“平台需部署标识检测技术”,这一要求正推高运营成本,有业内人士坦言:“这如同要求每栋大楼重新安装消防系统。”


图片内容本身有标识

微信、抖音、小红书等平台已上线“AI声明”功能,如抖音的“高级设置-自主声明”、微信视频号的“虚构内容谨慎甄别”提示,但法学专家尖锐指出:平台必须公开算法原理及误判样本数据,同时建立用户申诉渠道,否则可能因误判侵犯创作自由。

进一步的矛盾在于——标识虽能拦截“AI内容搬运”,降低审核成本,但平台需投入巨资升级系统,且一旦误标引发纠纷,将直接冲击用户信任。

03

AI内容生态将重新洗牌

《标识办法》通过双重标识体系(显式+隐式)构建透明化内容环境,这种设计直接拦截了“AI洗稿”行为——平台可依据标识快速识别并下架未授权的AI搬运内容,大幅降低原创者的维权成本。随着公众对标识内容的认知提升,倒逼创作者提升内容质量。合规原创者因“无标识”形成天然信任背书,赢得用户青睐。

在平台内容竞争上,AI生成内容需明确标注,消除了“以机器冒充人类”的不公平竞争的隐患。专家指出,这将迫使依赖低质AI输出的创作者转型,推动行业回归内容本质。同时,标识明确了内容来源,原创作品的版权归属更加清晰。即使AI生成内容涉及演绎创作,其权利配置也需以“所有者与使用者约定优先”,为原创者维权提供法律抓手。


可信AI生态的构建路径

总体而言,《标识办法》的实施标志着中国AI治理从“野蛮生长”进入“透明化时代”。尽管短期阵痛不可避免,但长远看,强制亮明身份将倒逼行业剔除虚假信息泡沫,推动资源向高质量创作端聚集。


微信订阅

欢迎通过邮局渠道订阅2025年《电脑报》

邮发代号:77-19

单价:8元,年价:400元

编辑|张毅

主编|黎坤

总编辑|吴新

爆料联系:cpcfan1874(微信)

壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

电脑报少年派 incentive-icons
电脑报少年派
最新鲜的互联网产业资讯
3911文章数 1603关注度
往期回顾 全部

专题推荐

洞天福地 花海毕节 山水馈赠里的“诗与远方

无障碍浏览 进入关怀版