网络上那些用AI假扮名人做直播带货的事情,这两年越来越多,已经变成了一个让公众和监管都头疼的问题。
把问题说清楚其实很简单:有的人把公众人物的脸和声音复制下来,做成看起来很真切的视频或直播;这些假冒内容被放到各大平台上,配上商品链接,诱导粉丝和消费者下单;买家付款后发现货不对板,想维权却常常找不到真实的卖家或售后;被冒名顶替的人也被误会,名誉和商业信用受损。
这些事里既有技术问题,也有法律和治理的问题,归根到底是技术被不法利用,而监管和平台还没能跟上这种滥用的速度。
来看看具体发生的几件事,更容易理解。
演员温峥嵘在拍戏的某个深夜,没想到第二天就有人发现网络上出现了“她”的带货直播。
![]()
不过事实上,温峥嵘那会儿并没有直播,平台上这些“她”的影像都是合成或者是盗用了以前的片段拼接出来的内容。
平台后来开展了专项清理,把和温峥嵘有关的仿冒视频下架了一万多条,其中用于带货的有近七千条,还对三十多账号进行了处罚。
这组数字说明了两个问题:一是侵权内容数量大、扩散快;二是平台在接到线索后能集中力量清理,但清理的工作量也很大。
这类情况并不只发生在演艺圈。
媒体曾报道过,用央视主持人名义做虚假广告的公司,短时间内就吸引了大量粉丝,并把产品卖了很多单;还有用奥运冠军的声音推广农产品的案例,粉丝看到声音就以为是运动员本人在推荐,很多人因此下单;学者的演讲被截取做成推广视频,法院判了侵权赔偿并要求公开道歉。
这些例子说明,仿冒的目标并不局限,凡是有影响力的人都可能被拿来“借力”做推广。
从法律角度讲,这些行为触碰了好几条红线。
未经授权使用别人的肖像或声音,明显侵犯了人格权;如果这些合成内容让名人的社会评价受损,涉及到名誉权;如果借此推销商品、隐瞒真实情况,消费者被误导就属于侵犯消费者权益,可能要承担退一赔三的责任;而在更极端的情况下,如果通过仿冒骗取的钱达到了起刑标准,就可能构成诈骗罪。
法院在一些案件中已经做出判决,要求侵权方赔偿并公开道歉,同时指出平台或商家若未尽到审查义务,也要承担相应责任。
说到底,治理难点在好几层。
第一层是技术识别。
虽有办法要求AI合成内容要标识出来,但实际操作上非常复杂。
侵权者会用一些简单技术手段来规避平台检测,比如把视频镜像翻转、做画中画遮挡、改变画面或声音的速度和音调,或者频繁更换发布IP与设备信息。
对平台来说,自动识别系统可能会被这些小技巧绕过,人工审核则成本高、效率低,难以做到对海量内容的及时把关。
第二层是取证与追责复杂。
事情一旦扩散到多个平台,侵权证据会散在不同地方,时间线和资金链也会断裂。
受害人要先保存视频、截图、交易记录等证据,再去找平台投诉、向律师发函或提起诉讼。
粉丝或普通消费者想要退款或索赔时,也常常因为找不到真实的卖家或支付路径而无从下手。
即便平台能封号,若不追查到底的资金流向和关联账户,违法获利往往已然转移,难以追回。
第三层是监管与执法的速度不够。
虽然有关部门已经开始出台规定,让AI生成内容必须“亮明身份”,但规定与实际执行之间还存在时间差和操作难题。
平台在违规处置时多数只做封禁,而不会主动追查资金、把线索转给执法机关,这让维权流程变得断裂。
对此,法律界和行业内部提出了不少改进建议:平台在上线环节应当加强识别,在发现问题后应当将相关线索与资金流向一并移交执法机关,司法机关则需要在电子取证和跨平台证据调取方面提供更便捷的程序。
治理这类问题需要多方面同时发力。
技术上,平台需要投入更多资源,升级检测算法,并建立对涉及公众人物内容的优先审查机制。
平台还应构建黑名单和高风险账号库,针对异常交易与异常发布行为做出自动预警。
在事后处理上,平台应扩大追责范围,不止是封号,而是要追查账号关联、资金流向,并与支付机构、银行等形成协作,能在第一时间阻断违法资金链并保存完整证据链。
法律和行政层面也要跟进。
立法可以在使用合成肖像与声音的规则上更明确,设定未经授权使用的民事赔偿标准和行政处罚力度。
对恶意合成、重复违法的主体应当提高惩罚门槛,以形成实质性的威慑力。
执法上要建立跨部门协作机制,让网信、市场监管、公安等部门在处理案件时既能分工明确,又能信息共享,确保取证和处置不再成为孤岛式行动。
公众层面的防范也很重要。
普通消费者在面对直播带货或短视频推广时,应当保留基本的怀疑精神。
在没有确认代言人真实参与的情况下,不宜轻易下单;发现信息不对等或售后无法保障时,应保留交易证据并及时投诉。
媒体和行业自律组织也要承担起监督和引导的责任,避免无意中放大未经核实的“名人推荐”。
要看到,如果不迅速形成合力,这种借助AI进行的仿冒与欺诈会越来越普遍。
平台流量裂变和短期利益驱动会持续让一部分人铤而走险,技术门槛低意味着不法分子容易试错并迅速扩散违规模式。
受害者的范围会从个别名人扩展到更多依靠信誉经营的个人和企业,消费者的信任也会被进一步侵蚀。
治理的关键在于建立一个既能鼓励技术创新又能有效惩处滥用的制度环境
![]()
只有做到技术、法律和社会层面的协同,才能在保护个体权利和维护市场秩序之间形成可持续的平衡。
平台要把审核和追责当作常态化工作;监管部门要把规则落实到具体执行环节;司法机关要提升电子证据取证效率;公众要提高辨识能力并积极监督。
技术本身并没有错,关键在于使用它的人和治理它的制度是否健全。
如果这些环节都能跟上,AI带来的便利可以被放大,而滥用带来的风险则能够被有效压制。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.