国家终于出手,揭穿了一个利用AI技术骗人的大案子,主角居然是咱们熟悉的央视主持人李梓萌。
2025年6月,北京市海淀区市场监管局出动人马,查处了一家名叫“智创科技”的公司。
![]()
这家公司干的事儿,简单来说就是用了AI技术,冒用央视知名主持人李梓萌的名义和形象,做了一大堆虚假广告。
你可能在短视频平台或朋友圈里见过那种“李梓萌推荐”的理财产品或保健品广告,画面逼真,声音也像模像样,让人一看就信以为真。
可实际上,那根本不是李梓萌本人,而是AI生成的“克隆人”。
![]()
这事儿一爆出来,网上就炸锅了,不少人惊呼:“现在的技术也太吓人了,连主持人都能被冒用!”
李梓萌是谁?估计大家都不陌生。
她是央视的资深主持人,从新闻联播到大型晚会,露脸多年,形象正面,声音亲切,在观众中积累了不少信任度。
可偏偏有人盯上了这份信任。
![]()
目前,这起案子已经牵扯出至少50名受害者,涉案金额高达数百万元。
受害者里,有退休老人、上班族,甚至还有年轻人,他们大多是看了这些虚假广告后,买了高价商品或投了钱,结果血本无归。
想想就让人气愤,这些骗子利用AI技术,把李梓萌的形象和声音拼凑得惟妙惟肖,广告里她一脸真诚地说“这个产品我用过,效果特别好”,谁能想到是假的?
事件是怎么被揭发的?说起来还有点戏剧性。
![]()
2025年初,有网友在社交平台发帖,说看到李梓萌代言的一款理财产品收益高得离谱,怀疑是骗局。
这事儿慢慢发酵,引起了监管部门的注意,海淀区市场监管局联合网信办,花了几个月时间暗中调查,发现“智创科技”这家公司专门搞这种勾当。
他们用AI工具抓取李梓萌的公开视频和音频,通过深度学习生成虚假内容,再投放到短视频平台和微信群。
![]()
更可怕的是,这些广告还会根据算法推送,精准投送给那些容易上当的人群,比如中老年人或理财小白。
2025年6月,执法人员突击检查公司办公室,当场查获了服务器和造假工具。
对方交代,他们从2024年底就开始干这事,之所以选李梓萌,就是看中她的公信力,能快速拉拢信任。
![]()
这事儿不只是个案,近些年来,类似利用AI冒用名人形象的案件在全国呈上升趋势。而受害者远不止李梓萌这一桩,还有其他明星和网红被冒用。
AI技术本来是个好东西,能帮我们提高效率、创新娱乐,可一旦被滥用,就成了骗子的利器。
而这种骗局之所以能成功,也有是因为咱们普通人对新技术了解不够。
很多受害者事后回忆,他们看到广告时,只觉得“李梓萌都推荐了,肯定靠谱”,根本没想过AI能造假到这种程度。
![]()
这就像以前电话诈骗盛行时,有人一听到“公安局”来电就慌神一样,现在换成了视觉和听觉的欺骗,更防不胜防。
但也怪不到大家,有专家分析说,AI深度伪造技术已经进化到普通人难以分辨的地步,除非有专业工具,否则光靠肉眼很难识破。
这不禁止人担忧,万一这种技术扩散开来,社会信任体系会不会被掏空?
![]()
想想看,如果观众以后看到明星代言都心里打鼓,那正规广告还怎么玩?这不排除会导致“狼来了”效应,好事也被人怀疑。
而且,今天冒用李梓萌,明天可能就轮到其他名人,受害者圈会越滚越大。
针对此,不仅要加强监管,社会应该加强科普教育,比如通过社区讲座或短视频,教大家怎么识别AI造假。
![]()
毕竟,中国网民规模超过10亿,但数字素养参差不齐,尤其是很多中老年人上网时间短,对AI了解有限,容易轻信表面东西。
而简单一招:多看多问。
遇到明星代言,别急着掏钱,先查查官方渠道有没有确认。李梓萌这事儿出来后,央视就发了声明,提醒观众别信非官方广告。
这种及时沟通,就能减少受害者。
![]()
再有技术滥用不是新鲜事,但AI的威力太大,有研究报告指出,AI伪造内容可能在未来五年内成为网络诈骗的主流手段。
这不禁让人联想,如果放任不管,会不会侵蚀社会诚信?比如,医疗广告冒用专家名义,那后果就更严重了。
所以,国家必须立规矩:技术可以创新,但不能越界。
![]()
而平台方应该负起责任,用AI技术反制AI诈骗,现在有些公司已经在开发检测工具了,能实时扫描视频真伪。如果短视频平台能强制植入这种工具,骗子就难钻空子。
另外,法律也得更新,加大对AI滥用的处罚力度。
但需要明确的是,技术本身无罪,罪在滥用的人。咱们既不能因噎废食,拒绝AI进步,也不能掉以轻心,得时刻警惕。
![]()
在AI时代,信任变得脆弱,但也更珍贵。国家出手揪出幕后黑手,是好事,可光靠政府不够,我们每个人都得长个心眼。下次看到“明星推荐”,多想想是不是陷阱。
技术进步是趋势,但人性良知才是底线。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.