她写道,一觉醒来谁在利用 AI 肆意抓人,替自己作恶?
这位 “花姐”你骗了多少人的钱?请如数奉还!太恶劣!!!
![]()
短短几句话连标点符号里都透着愤怒,大半夜被气成这样,
是因为有人用 AI 换脸、换声,把她的脸和声音做成了带货的假视频,拿去骗粉丝、骗老人的钱。
而被这样盯上的,其实还远不止她一个。
![]()
有一个网名叫 “花姐” 的账号,发布了一段以 “明星同款、吴越推荐” 为噱头的视频,推销一款护肤品。
视频里的说法,是吴越为了回馈老粉丝,专门联合厂家给大家送福利。
![]()
视频里有一个和吴越长得一模一样的人,声音也和她分毫不差,
对着镜头特别真诚地说这个产品不是厂家来找她,而是她主动去找的厂家。
因为她一开始看视频,还觉得哪有这么夸张,结果自己收到货一用,效果非常直观。
![]()
这个 “吴越”,还在视频里卖力地喊,今天直接送让大家闭着眼睛用、闭着眼睛囤,连孕妇妈妈都能用。
一个演技扎实、口碑极好的老演员,就这样被人套上了一张假脸、一副假嗓子,变成了直播间里忽悠人下单的推销员。
![]()
更离谱的是这条视频的最后还出现了 “邓亚萍” 带货的画面
,而在这个账号里类似的内容还有很多,全都打着 “乒乓球冠军邓亚萍推荐” 的旗号在卖各种产品。
![]()
等于说造假的人,一边用 AI 换脸、换声骗人,一边又在角落里,轻飘飘地标注了一下,企图给自己留一条免责的后路。
可就是这样一段,明眼人一看就知道是合成的视频,依然能骗到不少人。
![]()
尤其是那些,对吴越、对邓亚萍有天然信任的人,尤其是上了年纪、对 AI 技术不了解的老人。
他们一看是自己熟悉、信任的明星,脸是那张脸,声音是那个声音,
推荐的东西又是 “回馈粉丝” 的福利,心里的防线一下子就松了。
![]()
吴越出生于上海,毕业于上海戏剧学院,是圈内公认的实力派,
演过《我的前半生》《和平年代》《县委大院》《少年的你》等一大批作品,
靠的是几十年,一点一点积累起来的观众缘。
![]()
她的愤怒不只是因为自己的肖像和声音被盗用,更是因为骗子用她的信誉,去收割那些冲着她才掏钱的普通人。
所以她才会在凌晨三点直接开炮,质问这个 “花姐”,到底骗了多少人的钱并要求对方如数奉还。
如果说吴越的遭遇,还只是一段假视频,那演员温峥嵘碰到的事就更让人脊背发凉了。
温峥嵘也公开自曝过,自己刷到过用 AI 盗播她的直播间,
她形容说那段时间早在 4 月份之前,就有很多人告诉她在多个直播间同时看到了她自己。
最诡异的是,这些直播都在同一个时间段播出,可里面的 “她”,妆发不一样,卖的产品不一样,嘴里说的却是一模一样的话。
明摆着这些要么是 AI 合成的虚假直播,要么是盗播、录播她过去的片段,根本不是她本人。
![]()
有一次她拍戏拍到很晚,回到家已经是凌晨三四点,
她自己明明没有在直播,闲着刷手机却眼睁睁看到,“自己” 正在一个直播间里卖东西。
她气不过就点了进去,在评论区问了一句,你是温峥嵘,那我是谁?结果话音刚落,她就被对方秒拉黑了。
![]()
这件事让温峥嵘发出了一句,特别无奈的感慨,她说,我现在都很难证明我是我。
这句话听起来荒诞,却是当下很多名人真实的困境,骗子用 AI 技术把你的脸、你的声音,
模仿得惟妙惟肖,你本人站出来反而要费力去证明那个在直播间里的人不是你。
![]()
这两年AI 深度合成、换脸换声的技术,越来越成熟,门槛却越来越低。
以前做个假视频,还得有专业的本事,现在普通人花点小钱,就能在网上买到换脸、换声的服务。
![]()
于是名人成了被冒用的重灾区,明星、专家、主持人、世界冠军,一个个都成了骗子嘴里的 “带货代言人”。
更可怕的是这些假视频、假直播,瞄准的往往是中老年人,他们对技术不敏感,
对名人又有信任,骗子正是利用了这一点,把假的东西做得比真的还真,等老人反应过来钱早就转走了。
![]()
吴越的愤怒,温峥嵘的无奈,其实给所有人都敲响了警钟。
很多人以为,AI 是新技术,拿它换个脸、开个玩笑,好像不算什么大事,
可一旦用它来冒充名人、骗取钱财,这就不是玩笑而是实打实的违法犯罪。
![]()
针对这种乱象,专家说得很清楚,治理的核心,在于全面落实内容标识制度,把 AI 技术的合法应用,和非法滥用,严格区分开来。
也就是说AI 本身是中性的,它可以用来做特效、做创作、提高效率,这都是好事,但绝不能被拿来,披着名人的外衣,干着骗人的勾当。
![]()
那些做了深度合成,却只在角落里,用一行小字敷衍标注,甚至根本不标注,还刻意误导消费者的本身就违背了标识的要求。
要管住这只猛兽,平台的责任首当其冲,平台不能对这种,明显打着名人旗号、却没有任何授权的带货视频,睁一只眼闭一只眼。
![]()
应当在审核、巡查、下架上,下更大的功夫,发现一个封号一个,不能让骗子换个马甲就能卷土重来。
监管部门也需要加大打击的力度,对那些组织化、批量生产 AI 假视频、假直播,专门用来诈骗的团伙,
要顺着线索一查到底,不仅要让他们退还骗取的钱财,还要依法追究责任,让造假的成本真正高起来。
![]()
而对普通人,尤其是家里有老人的,更要多留一个心眼,
看到明星、名人在直播间里推荐那些 “回馈粉丝”“亏本送福利” 的产品,尤其是护肤品、保健品,别一激动就下单。
多问自己几个问题,明星真的会在这种没听过的直播间,亲自叫卖吗?这么便宜的好事,凭什么落到我头上?
![]()
认准官方的、正规的购买渠道,遇到拿不准的,先跟子女核实,
别轻易转账,别被那张熟悉的脸、那副熟悉的声音给带跑了。
吴越那句 “请如数奉还”,骂出了被冒用者的愤怒,也替无数可能被骗的人,出了一口气。
![]()
技术往前走是好事,但技术越发达,越要守住底线,不能让 AI成了骗子手里肆无忌惮的工具。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.