如今随手点开手机,短视频平台满屏晃动的,全是熟悉面孔。刚送走亲人的家庭还沉浸在哀伤中,网上已冒出“家属”账号,用逝者名义直播带货。
镜头前的女人顶着真实亲属的姓名,眼眶泛红、声音哽咽,诉说生活不易。话音未落,她已熟练地托起一罐黄精五黑粉,语气瞬间转为热切推介。
![]()
视频下方小黄车实时跳动销量数字。现实中的亲人尚在悲恸难抑,虚拟空间里的“分身”却已将商品抢购一空。
这类荒诞剧目正高频轮播于各大内容平台。幕后推手是谁?这门靠换脸牟利的生意,究竟如何完成从伪造到套现的闭环?
![]()
满屏幕的假亲戚和假活人
事件引爆舆论,源于著名音乐家刘欢先生离世不久。老人辞世仅十余日,社交平台上便密集涌现多个异常账号。
账号命名直白得令人咋舌:有称“刘欢夫人卢璐”,有自诩“刘欢之子”,连头像都刻意选用模糊处理的家庭合影。
![]()
点进主页,画面全取自刘欢过往公开演出或访谈片段。配音则由AI合成,声线高度还原卢璐本人语调,语速缓慢、气息微颤,透出深切悲怆。
语音开场便是:“老刘走了……我一个人撑着。”尾音轻抖,眼角似有泪光闪烁,情绪渲染几近以假乱真。
![]()
可这份沉痛尚未延续三十秒,画面陡然切换——“卢璐”手中已稳稳托起一盒养生粉,开始逐条讲解成分与功效。
她称丈夫生前每日服用,自己如今亦赖此支撑身心。评论区同步弹出醒目的购买入口,页面不断提示“库存告急”“限时加赠”。
![]()
成百上千条评论涌向视频底部:有人留言“阿姨节哀保重”,有人附和“一定支持您”,更有不少用户直接下单数件。
而真实家属早已发布严正声明:从未开通任何自媒体账号,所有所谓遗言、悼念图均系伪造,且本人拒绝一切商业代言。
![]()
但辟谣信息几乎零曝光——算法不推、搜索不见、转发受限。反观那些冒牌账号,借哀情流量狂揽收益,单场直播成交额破百万。
此类操作早已模式化。凡有公众人物突发变故,相关话题热度未退,仿冒矩阵即刻成型。逝者余温尚存,灰产链条已将其声望转化为实打实的现金流。
![]()
几十块钱就能买一套名人的嘴脸
这套变现路径,在黑市早已标准化、模块化。无需编程基础,支付数十元即可启动整套造假流程。
第一步是声音采集:从新闻发布会、综艺剪辑、纪录片片段中截取30秒以上清晰语音。输入AI克隆工具后,模型可在两小时内生成90%相似度的定制音色。
![]()
第二步是图像驱动:上传一张高清正面照,接入唇形同步软件。输入文案脚本,系统自动匹配口型动作,生成自然对口型视频。
为规避平台内容审核,操盘者惯用“障眼法”:在画面右下角极隐蔽处添加一行超小字号文字——“本内容由人工智能生成”。
![]()
该行字大小不足常规字体1/5,需放大三倍并倾斜角度才勉强可辨。在他们看来,这就是合法免责的“护身符”,哪怕全程虚构也无须担责。
整条作业链分工明确:上游专人批量爬取名人影像素材;中游团队负责注册养号、包装人设;下游则对接推广服务商,定向投放流量包。
![]()
只要投入数万元购买初始曝光量,总会有大量中老年用户信以为真,毫不犹豫点击下单。
待平台察觉封禁时,货品早已售罄。造假者只需更换ID、切换人脸模型,次日便可上线新账号,无缝衔接下一轮收割。
![]()
明星本人去直播间对质,反被秒拉黑
不少被冒用的艺人并非不愿维权,而是维权成本高得令人却步。演员温峥嵘就曾亲身经历一场荒诞交锋。
某日凌晨刷屏时,她接连刷到多个挂着自己名字的直播间。AI生成的“温峥嵘”正激情推销洗发水、护膝与钙片,语速飞快、手势夸张。
![]()
她立即以认证大号进入直播间,在公屏打出质问:“你说你是温峥嵘,那我又是谁?”
消息发出不到三秒,系统弹出提示——账号已被永久禁言,并强制退出直播间。整个过程冷静高效,毫无迟疑。
![]()
真人被自己的数字替身拒之门外。而那个AI化身仍在循环播放带货话术,订单持续涌入,后台数据实时刷新。
若想依法维权,当事人必须彻夜守候、逐帧录屏取证,再赴公证处完成全流程证据固化。
![]()
提交至平台投诉后,人工审核周期动辄数日乃至数周。等终于等到封禁通知,对方早已启用全新账号,挂上另一位名人的面容,继续开播。
造假者敲击几下键盘即可复制身份,维权者却要奔波数月、耗尽心力。这种悬殊的成本差,让灰色产业愈发肆无忌惮。
![]()
连国家队的运动员也逃不过被克隆
若此前蹭逝者与娱乐明星热度尚属逐利行为,那么将矛头指向奥运健儿,则彻底逾越道德红线。跳水新星全红婵因国民好感度极高,迅速成为重点围猎对象。
某段时间内,短视频平台集中出现数十条“全红婵返乡助农”视频。画面中她身穿碎花衬衫,手捧竹编筐,筐里堆满土鸡蛋,背景是模糊处理的南方村落。
![]()
配音采用稚嫩语调,模仿其标志性说话节奏:“家里鸡蛋卖不出去……求大家帮帮我们村的爷爷奶奶。”
视频挂载购物链接,上线七日内累计成交47000单。无数中老年观众感动落泪,纷纷下单,坚信自己正在支持国家功臣的家乡事业。
![]()
事后全红婵家人紧急发声澄清:从未参与任何农产品推广,更未授权使用个人肖像。经核查,所谓“产地”实际距其家乡直线距离超1200公里。
相同手法亦蔓延至孙颖莎、王楚钦等乒坛主力。造假者甚至编排三人“私下通话”剧情,虚构“队内互助带货”桥段,进一步强化可信度。
![]()
公众对奥运健儿的信任,源自他们在赛场挥洒的汗水与荣光。骗子正是精准锁定这份纯粹情感,将其异化为最易收割的信任资产。
官媒直接定调,这不是侵权而是诈骗
乱象愈演愈烈,终引主流媒体集体亮剑。央视网、《北京日报》、光明网连续刊发重磅评论,对此类行为作出权威定性。
![]()
报道明确指出:利用AI技术擅自复刻他人声音、面部特征进行商业营销,已远超一般民事侵权范畴,实质触碰《中华人民共和国民法典》第1019条及《反不正当竞争法》核心条款。
更关键的是销售环节——虚构根本不存在的名人背书,诱导消费者基于错误认知完成交易,完全符合《广告法》第28条关于“虚假宣传”的法定构成要件,亦涉嫌《消费者权益保护法》第55条所指欺诈行为。
![]()
那行藏于画面角落的“AI生成”标注,绝非免责盾牌,反而成为主观故意的铁证。法律不承认技术幌子下的恶意欺骗。
就在舆论持续升温之际,监管落地动作同步加速。北京市市场监管局近期办结一起具有标杆意义的行政处罚案件。
![]()
涉案企业通过AI深度伪造某知名电视台主持人形象,为其普通代餐粉制作推广视频,宣称产品具备“调节免疫”“改善睡眠”等医疗效果,误导大量老年群体高价购买。
执法机关未按常规肖像权纠纷处理,而是依据《广告法》第55条实施顶格处罚,罚款金额达法定上限。此案系全国首例适用广告法严惩AI虚假营销的公开判例。
![]()
判决文书措辞严厉:“该行为侵蚀的是市场经济赖以运行的信用基石。”首张罚单落地,标志着躲在算法背后的非法牟利者,正面临前所未有的法律高压。
技术本身并无善恶,只是一串沉默的代码。它能生成毫发毕现的面容,能复刻惟妙惟肖的声纹,却永远无法计算出良知的重量。
![]()
灰产从业者算盘打得极响:把公众人物半生积累的社会声誉,当作无需付费的开采油田,榨取的每一分利润,都来自普通消费者的真诚与信赖。
今日屏幕上那个假全红婵卖出47000单,明日就会有更多普通人对所有数字面孔本能警惕、本能质疑。
![]()
每一滴虚假的眼泪,都在稀释社会的情感浓度;每一次伪造的推荐,都在磨损人际交往的信任肌理。当人们开始怀疑每一次屏幕对话的真实性,商业生态终将沦为信任荒漠。
单纯封禁个别账号治标不治本。平台算法必须升级识别维度,对明显失真的微表情、违和的唇部运动、异常的光影逻辑主动拦截。那行藏于角落的AI免责声明,不应成为逃避责任的遮羞布,而应作为司法认定主观恶意的关键证据链。
技术迭代一日千里,法治建设更要同步提速、织密织牢。唯有让盗用他人形象牟利的违法成本,远高于其非法所得,那些披着人皮外衣的数字幽灵,才可能真正退散于阳光之下。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.