在阅读此文之前,麻烦您点击一下“关注”,既方便您进行讨论和分享,又能给您带来不一样的参与感,感谢您的支持。
前言
以假乱真的AI陷阱有多可怕?
内娱的明星更是苦不堪言!
![]()
网友直言:
还得国家出手!
![]()
01
都说科技改变生活。
但全看运用这项技术的人有没有良心。
万万想不到,AI诈骗的风还是吹到了央视主持人身上!
“家人们,这个深海多烯鱼油你们得试试,包治百病。”
![]()
央视主持人“李梓萌”在直播间里热情推荐,声称这款产品能改善头晕手麻、恢复记忆,还强调“有央视给你们把关,绝对有保障”。
![]()
许多观众因为信任这张播报新闻几十年的面孔,毫不犹豫地下单购买。
然而,真正的李梓萌对此却毫不知情。
![]()
在直播间里,这个“李梓萌”不仅形象逼真,声音也几乎与真人无异。
一时间,直播间人数从几万飙升至几十万,不少观众,尤其是中老年群体。
然而,当产品陆续到家后,消费者们才发现自己上当受骗了。
![]()
一位阿姨在直播间购买了三瓶鱼油,服用半个月后没有任何改善。
仔细查看产品执行标准才发现,这所谓的“神药”不过是糖果类食品,根本不具备任何保健功能。
当李梓萌被AI克隆的事件曝光后,北京海淀区市场监管局介入调查。
![]()
结果发现脸和声音虽然是李梓萌的,但说话口型对不上。
偶尔还会出现乱码,脸上的光影也显得极不自然,明显是AI合成的痕迹。
![]()
央视方面很快给出回应,称:
李梓萌那段时间正在筹备新节目,根本没有时间进行直播带货,更不可能推销什么鱼油。
至此,真相大白,原来这一切都是不法分子利用AI克隆技术制造的骗局。
![]()
他们从网上搜集李梓萌的新闻片段,提取其特征、表情和说话语调,克隆出一个“假”李梓萌。
背景也被精心设计成演播室模样,一切都为了营造“央视”氛围,借助央视的公信力卖货骗钱。
![]()
网友直呼:
现在的骗子真是防不胜防!
而李梓萌的事件并非孤例,内娱明星更是苦不堪言!
首当其冲的就是老戏骨靳东!
![]()
02
2020 年说起,一位江西女子,在短视频平台上结识了一位自称是靳东的用户。
然而,这个 “靳东” 却对她表现出了超乎寻常的热情,不仅频繁与她聊天,还向她告白、求婚。
![]()
为了证明这份 “爱情” 的真实性,“靳东” 还与她合拍了短视频,发布在平台上,这让女子更加坚信不疑。
随着感情的 “升温”,“靳东” 开始以拍戏需要资金为由,向女子索要钱财。
![]()
女子毫不犹豫地选择相信他,不仅将自己的积蓄全部拿出,甚至还打算离家出走众筹借钱给对方。
幸运的是,银行工作人员发现了女子的异常行为,并及时联系了警方。
![]()
警方经过调查,发现这个所谓的 “靳东” 是不法分子利用 AI 换脸和变声技术伪造的虚假账号,其目的就是为了骗取女子的钱财。
![]()
无独有偶,2023 年 9 月,王先生也遭遇了类似的骗局。
他的母亲是靳东的忠实粉丝,平时喜欢在短视频平台上关注靳东的动态。
![]()
突然有一天,母亲告诉他,她在平台上结识了 “靳东”。
此后,“靳东” 以各种理由向母亲索要钱财,母亲前后为其花费超过 20 万。
![]()
王先生发现母亲的行为异常后,经过仔细询问,才发现母亲被骗。
他立即报警,警方迅速展开调查,揭开了这起 “假靳东” 诈骗案的真相。
![]()
原来,这是一个有组织、有预谋的犯罪团伙,他们利用 AI 技术合成靳东的视频和声音,在短视频平台上创建大量假靳东账号,吸引粉丝关注。
一旦有粉丝上钩,他们就会以各种理由索要钱款。
![]()
这些受害者大多是对互联网使用不太熟悉的中老年女性,她们情感上相对孤独,渴望得到关爱和关注。
而骗子们正是抓住了她们的这一心理弱点,利用 AI 技术制造出虚假的情感连接,让她们在不知不觉中陷入了骗局。
![]()
“假靳东” 事件的曝光,让靳东本人也十分愤怒,他发文怒斥:
希望警方将骗子绳之以法,净化网络风气。
![]()
他在两会小组讨论上坦言:
“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣”。
![]()
而在 AI 造假肆虐的风波中,全红婵这位年轻的奥运冠军也未能幸免于难。
![]()
03
去年下半年,网上出现了大量“全红婵推荐土鸡蛋”的视频,假的全红婵声称:
自己吃了这种鸡蛋后训练更有力量,营养非常好。
![]()
不法分子甚至创造了一个假的全红婵在直播间里卖鸡蛋,还将全红婵和鸡蛋的合影印在包装上,在超市里销售。
而事实上,全红婵家人早在 4 月就已声明,全红婵并未授权任何农产品代言。
![]()
当时的全红婵,正全身心地投入到紧张的训练和比赛中,根本没有时间和精力去参与带货活动。
这些所谓的 “冠军带货” 视频,是不法分子利用 AI 技术精心伪造的。
![]()
这些假视频的传播力和影响力超乎想象。
有骗子的评论区里全是 “婵宝好孝顺”“支持国货” 这样的留言,甚至有人晒出 “已下单” 的订单截图。
![]()
仅该账号的土鸡蛋就售出 4.7 万件,按单均 30 元计算,流水超过了 140 万元。
而实际上,这些所谓的土鸡蛋,不过是普通养殖蛋,包装简陋,发货地与 “老家” 毫无关联,与视频中宣传的高品质土鸡蛋相差甚远。
![]()
直到今年八月,全红婵的哥哥忍无可忍,站出来揭露了这一骗局,提醒消费者不要上当受骗。
![]()
不仅全红婵,孙颖莎和王楚钦等奥运冠军也未能逃过这场劫难。
在一些视频中,孙颖莎竟然在帮着全红婵卖鸡蛋,王楚钦还 “收到了私信” 帮忙推销。
![]()
这些风马牛不相及的组合,让人匪夷所思。
而这些视频的制作手法如出一辙,都是利用 AI 技术克隆声音,再拼接视频,以达到欺骗消费者的目的。
![]()
影视明星们同样苦不堪言。
![]()
古天乐、林峰被线上游戏平台利用AI技术,以他们过去的肖像和声音,合成“代言”宣传带赌博性质的“投资”。
![]()
刘晓庆在看过“AI刘晓庆”后,也惊呼相似度极高。
她曾紧急辟谣:
“画面是我,声音很像我,但不是我!这是怎么做到的?”
![]()
明星们的“数字分身”在未经授权的情况下,活跃在各个直播平台,推销着从女装到奶粉的各种商品。
这些伪造的名人代言不仅损害了消费者权益,更严重侵犯了明星的肖像权、名誉权。
一位经纪公司负责人无奈地表示:
“我们每天都要监测网络上的AI仿冒内容,但封禁一个,又会出现两个,根本清理不完。”
面对日益猖獗的AI虚假广告,国家终于出手进行整治。
![]()
04
李梓萌的案子成为了第一个AI虚假广告案,涉案人员很快被警方抓获。
![]()
除了抓人罚款外,相关部门还要求直播平台升级技术,自动识别AI合成内容。
同时要求主播必须实名登记,从源头上遏制AI虚假广告的传播。
![]()
2025年,国家网信办在全国范围内部署开展“清朗·整治AI技术滥用”专项行动。
强化AI技术源头治理,清理整治违规AI应用程序,推动网站平台提升检测鉴伪能力。
![]()
那么面对越来越逼真的AI伪造内容,普通人该如何辨别?
专家提供了几种简单的识别方法。
![]()
注意面部特征:AI技术往往难以完美处理眼睛的反射和牙齿的细节。
伪造视频中的人物眼神可能显得呆板,牙齿线条也可能不规则。
![]()
关注光线与阴影:AI生成的内容中,光线和阴影的方向可能不一致,尤其是在面部特征上。
人物与背景的光照条件可能不匹配。
![]()
检查背景细节:AI生成的视频背景往往缺乏细节,模糊不清。
背景中的物体可能会有不自然的变形。
![]()
留意皮肤质感:AI技术常常会过度“优化”人物皮肤,使其看起来异常光滑,与年龄不符。
核实信息来源:对于可疑内容,应通过官方渠道核实。
如全红婵家人早在四月就对外声明过,全红婵并未给相关农产品代言或授权。
![]()
结语
AI克隆技术的滥用已经成为一个不容忽视的社会问题。
李梓萌、全红婵等名人深陷虚假广告风波,可网友也要擦亮眼睛,多留心,才能避免悲剧发生。
![]()
【免责声明】
文章描述过程、图片都来源于网络,此文章旨在倡导社会正能量,无低俗等不良引导。
如涉及版权或者人物侵权问题,请及时联系我们,我们将第一时间删除内容!如有事件存疑部分,联系后即刻删除或作出更改。

参考资料:
央视财经
锐评|央视主播卖鱼油?必须斩断AI换脸的黑手 京报网 2025-10-16 20:19
央视主持人李梓萌遭AI仿冒带货,官方通报 极目新闻2025-10-15 21:18
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.