![]()
声明:本文内容均引用网络资料结合个人观点进行撰写,请悉知。
前段时间,一段AI合成的全红婵带货视频在网络流传,甜腻的语气与赛场上沉稳的奥运冠军判若两人,却仍骗倒不少不明真相的网友。如今官方通报刚过去不久,AI克隆名人的闹剧不仅没有收敛,反而愈演愈烈,继全红婵、王楚钦后,央视主持人李梓萌也惨遭“毒手”,被AI克隆形象用于商业广告,逼真程度让网友惊呼“真假难辨”。
回顾全红婵被AI克隆事件,堪称一场漏洞百出的骗局。视频里的“全红婵”面带微笑,熟练地介绍着“自家产的山鸡蛋”,声称“给粉丝发福利”,还编造出“孙颖莎、王楚钦帮忙带货”的虚假关系。可稍加留意就能发现破绽:“全红婵”的口音生硬,与她的广东湛江方言底子不符;更关键的是,有网友下单后发现,发货地址竟是安徽,与全红婵的广东老家毫无关联。
![]()
即便骗局漏洞明显,仍有不少中老年粉丝上当受骗。“我妈说这是奥运冠军推荐的,肯定靠谱,一下买了十斤。”网友@橙子分享了家人的经历。随着投诉增多,此事很快引起官方关注,相关账号被封禁,骗局被公开曝光。当时不少人以为,这场风波会给AI滥用者敲响警钟,没想到仅仅一个月后,类似的剧情就换了主角上演。
这次的受害者,是央视新闻主持人李梓萌。一段近期流传的广告视频中,“李梓萌”身着职业装,坐在模拟新闻演播室的背景前,手持某品牌保健品侃侃而谈,从产品成分到功效优势,讲解得头头是道。更令人震惊的是,这个AI克隆的“李梓萌”不仅五官、发型与真人高度一致,就连说话的语气、手势动作都模仿得惟妙惟肖,不仔细观察根本看不出破绽。
“之前全红婵的AI视频还有点僵硬,这个李梓萌简直像真人出镜。”有网友对比后发现,此次的AI克隆技术明显升级。以往的AI合成多是拼接语音、剪辑画面,稍长一点就容易穿帮,而这次直接生成了虚拟形象,借助主持人说话语气波动较小的特点,实现了“无缝模仿”。有业内人士透露,这种AI克隆只需获取名人的一段视频素材,通过算法训练就能生成逼真的虚拟形象,成本低、操作简单,给不法分子提供了可乘之机。
![]()
事实上,在李梓萌之前,AI滥用的魔爪已伸向多位名人。退休多年的歌手费玉清,前段时间被曝出“坐轮椅现身医院”的照片,引发健康猜测,后来证实是有人用AI合成照片博眼球,逼得费玉清工作室出面辟谣。还有网友发现,网络上甚至有人公开售卖杨幂、迪丽热巴等女星的AI换脸服务,声称能实现“实时通话无破绽”,用途令人担忧。
值得注意的是,AI克隆名人并非首次引发争议。早在去年,就有网红利用AI合成王楚钦的语音,编造“与孙颖莎恋爱”的虚假消息,虽然后来当事人澄清,但仍造成不良影响。此次从奥运冠军到央视主持人,受害者的身份越来越有公信力,不法分子的胆子也越来越大,即便在官方多次通报、整治的背景下,仍顶风作案。
“工具本身没有错,错的是用工具的人。”不少网友发出这样的感慨。AI合成技术原本可用于影视创作、虚拟主播等正当领域,比如用AI还原经典角色、制作科普动画等,可如今却被滥用在诈骗、造谣等违法活动中。更可怕的是,这些虚假内容精准瞄准辨别能力较弱的中老年群体,利用名人的公信力行骗,不仅损害名人的名誉权,还会给消费者带来财产损失。
![]()
针对AI滥用问题,官方早已出台相关规定。今年初,国家网信办等部门联合发布《生成式人工智能服务管理暂行办法》,明确要求生成式AI服务提供者“不得利用AI生成内容侵害他人肖像权、名誉权”,若违反规定,将面临罚款、关停服务等处罚。此前全红婵AI带货事件中,涉事账号就被依法封禁,相关人员也受到了处罚。
可为何仍有人铤而走险?关键在于违法成本低、利润高。有知情人透露,克隆一个名人AI形象的成本仅几百元,而通过带货、广告等方式,短时间内就能获利数万元。加上部分平台审核不严,虚假内容容易传播,让不法分子有了可乘之机。此外,不少受害者在发现被骗后,因维权流程复杂、证据不足,选择自认倒霉,也助长了这种歪风。
![]()
要遏制AI滥用的乱象,需要多方合力。平台应加强审核力度,建立AI生成内容的识别机制,对涉嫌克隆名人、虚假宣传的内容及时下架;监管部门要加大打击力度,对违法者依法从重处罚,形成震慑;作为普通消费者,也要提高警惕,遇到名人带货时,通过官方账号核实信息,切勿轻信陌生链接和低价福利。
从全红婵到李梓萌,AI克隆名人事件一次次敲响警钟。技术的进步本应让生活更美好,而不是成为诈骗、造谣的工具。当AI能够以假乱真,我们更需要守住法律和道德的底线。希望此次李梓萌事件能推动更严格的监管落地,让滥用AI者付出代价,也让技术真正服务于社会,而非沦为少数人心术不正的“赚钱利器”。
你是否遇到过AI克隆名人的虚假内容?欢迎在评论区分享你的经历,一起提高警惕!
![]()
(免责声明)文章描述过程、图片都来源于网络,此文章旨在倡导社会正能量,无低俗等不良引导。如涉及版权或者人物侵权问题,请及时联系我们,我们将第一时间删除内容!如有事件存疑部分,联系后即刻删除或作出更改!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.