作品声明:内容取材于网络
走了的人被拉回来卖货,活着的人一觉醒来成了推销员。吃相难看到这个份上,已经不是钻空子,是直接把手伸进了别人家里翻抽屉。
刘欢走了还不到一个月,网上就长出了一整套“刘家带货剧本”。一个AI合成的“妻子卢璐”坐在镜头前,声音颤着说“老刘他走了”,话锋一转,链接挂上“黄精五黑粉”。
更离谱的是,还凭空捏出一个“刘欢儿子”,娘俩轮番上阵,把逝者的最后一点体面榨成流量,把家属的悲伤拆成话术。
央视网直接点了名,说这是彻头彻尾的欺诈,平台该出手时不出手。可骗子没停手。刘欢家的事还没凉透,吴越又撞上了同一堵墙。
![]()
走了的人,被拉回来卖货
刘欢是9月25日在上海病逝的,63岁。那几天,卢璐连“临终传闻”和“后事图片”都是咬着牙一条一条辟谣的,求大家别传了,说会在合适的时候给个交代。
一个刚失去丈夫的女人,在镜头外面收拾残局,镜头里面却有一个“她”在哭丧卖粉。AI合成的那张脸,用的就是卢璐的样子,嘴里说的却是“家人一直在用的好物”。
![]()
刘欢没有儿子,这是再清楚不过的事实,可“刘欢儿子”照样在视频里一口一个“我爸”,卖的是同一款粉。
你说这些人不知道自己在骗吗?他们太知道了。视频角落里老老实实标着“内容由AI生成”,一行小字,小到你不仔细看根本注意不到。
这行字的用处,从来不是提醒消费者,而是给骗子自己留后路。出了事,它可以说“我标了呀”。
![]()
可一个老头老太太刷到这条视频,看见那张脸、听见那个声音,谁会趴到屏幕上去找角落里的小字?他们只看见“刘欢老婆”在卖东西,信的是刘欢两个字攒了一辈子的分量。
央视网的评论说得很重,说这不仅是冒犯逝者家属,还侵害了逝者依然依法享有的姓名和肖像权益,更把消费者的朴素情感当成了提款机。
![]()
刘欢唱了那么多年歌,留给公众的是《好汉歌》里那股敞亮劲儿,是《弯弯的月亮》里那点温吞的乡愁。
这些东西不是数据,是一个人拿一辈子换来的信任。骗子动动手指,拿AI一合成,就把这份信任截了胡。
![]()
活着的人,一觉醒来成了推销员
吴越的事,比刘欢家更让人后背发凉。刘欢的事,好歹还披着一层“家属”的皮,吴越是本人直接被“抓”进了屏幕里。
10月18日凌晨三点多,吴越发了一条微博。她没找公关写稿,没打官腔,原话是:“一觉醒来,谁在利用AI肆意抓人替自己做恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!”
![]()
一个54岁的女演员,大半夜不睡觉,自己下场撕一个连面都没见过的账号,你就知道这事恶心到了什么程度。
那个叫“花姐美肤日记”的账号,用AI生成了一个“吴越”,脸是吴越的脸,声音是从吴越过往影视剧里扒出来的声音,张嘴就是“这个产品不是他们找我,是我找他们”,一副掏心掏肺给粉丝送福利的架势。
![]()
卖的是一款护肤品,而这款产品在投诉平台上早就有人喊过:用了之后脸泛红、爆痘,问题没解决反而更重了。
吴越什么时候推荐过这东西?从来没有。可视频就那么挂着,底下还标着“含AI生成内容”,好像标了这行字,偷脸就不叫偷了。
律师把话说得很明白,标了“AI生成”也免不了责。脸是吴越的脸,声音是吴越的声音,指向性清清楚楚,未经同意拿去卖货,就是侵犯肖像权。如果赚了钱,主播和背后的企业可以一起告。
![]()
可问题在于,吴越不发文,这事就没几个人知道。她发了文,“花姐”的账号上午就找不着了。一个账号消失了,换一张脸、换一个名字、换一款产品,明天照样开张。
吴越在凌晨三点问的那句话,真正扎心的地方在这里:她得自己喊,骗局才被看见。那些喊不动的普通人呢?
![]()
平台那行小字,挡不住贪心
每次这种事出来,平台的说法都差不多:得权利人举报,我们才能处理。刘欢家出事的时候,有记者去问,得到的答复就是“需由权利人或其家人进行举报”。
这话听起来好像有道理,细想全是漏洞。刘欢家里人正办丧事,卢璐连辟谣都是硬撑着发的声,你让她腾出手来一条一条举报AI合成的“自己”?等家属缓过这口气,骗子早就换了三茬账号了。
![]()
吴越这件事更典型。她凌晨三点发文,上午账号就没了。说明平台不是找不到、管不了,是没人喊就不动。
技术识别难吗?一个账号同时挂着“吴越推荐”和“邓亚萍推荐”,批量生成、批量发布,行为特征摆在那里。
![]()
平台手里握着算法,能把这条视频推给成千上万的老年人,却识别不出视频里的人在偷别人的脸,这话说不过去。
央视网那篇评论里有一句话,分量很重:技术中立不是挡箭牌。AI换脸的门槛已经低到什么程度了,几十块钱就能克隆一个声音,抓几段影视素材就能拼出一张会说话的脸。
![]()
造假的人算的是一笔账:骗一波,被封了,换个壳再来,成本几乎为零。可被偷脸的人要维权,得截图、得录屏、得证明“我是我”、得等平台处理,一套流程走下来,骗子早就套现跑了。
成本全压在受害者身上,利润全留在灰产手里,这生意当然有人抢着做。
![]()
吴越的凌晨三点,不该是唯一的防线
说回吴越这个人。她被AI偷脸之后,很多人翻出她最近的生活状态,越看越觉得骗子挑她下手,挑得特别不是东西。
54岁,没结婚,没孩子,一个人把日子过得清清爽爽。今年她在电视剧领域的几个重要奖项上都有提名收获,业内和观众都认她的戏,她自己反倒淡得很:提名靠努力,得奖看运气。
![]()
不拍戏的时候,她素着脸背个布袋子逛昆明的菜市场,蹲在那儿挑菌子、跟摊主讲价,没助理没化妆,细纹也不遮。记者问她早年的感情,她就一句“不合适就分开”,二十多年没拿旧事换过一个字的流量。
这样一个不炒作、不卖惨、不拿私生活换热搜的人,安安静静过自己的日子,一觉醒来被AI按着头“推荐”了一款她自己都不知道的护肤品。骗子看中的恰恰就是她的“干净”:观众信她,因为她这些年没糊弄过人。信用攒了三十年,偷走只要三十秒。
![]()
卢璐那边也一样。刘欢走了,她连悲伤都得省着用,先辟谣,再看着一个AI合成的“自己”在镜头里哭。刘欢家属的隐忍和克制,在骗子眼里不是体面,是“这家没人出来闹,好欺负”。
今天被偷脸的是吴越,是卢璐,是温峥嵘,是靳东,是那些名字叫得响的人。明天呢?AI工具再往下走一步,一个退休老教师的照片、一段家庭群里的语音,够不够拼出一个“儿子出事急用钱”的视频?
![]()
骗子现在挑名人,是因为名人的脸“值钱”。等成本再降一降,普通人的脸在骗子眼里也会“值钱”。
法律的红线已经画了,最高法关于涉人工智能纠纷的意见里写得清清楚楚,未经同意用AI生成可识别的虚拟形象,就是侵权。央视网、北京日报、南方都市报这些声音也把平台的责任摆到了台面上。
![]()
那行“含AI生成内容”的小字,如果只是骗子的免责声明、平台的睁眼闭眼,那它比不标更可恶。吃相难看的从来不只是镜头前那个AI合成的人,还有镜头后面算账的人,以及假装看不见的人。
刘欢的歌还在被人听,吴越的戏还在被人看。这些东西偷不走。能被偷走的,是平台和规则本该守住的那道门。门守不住,今天卖的是五黑粉,明天卖的就是你我家老头老太太的养老钱。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.