前言
告不完!
就连央视李梓萌被牵连?
国家终于出手了!
![]()
01
都说科技改变生活,但科技怎么用,全看使用者的良心。
谁能想到,AI诈骗的风居然刮到了内娱明星身上?
“你是温峥嵘,那我是谁?”
![]()
深夜下班的温峥嵘,刚打开手机就发现“自己”正在直播。
![]()
温峥嵘发出一句质问,却直接被直播间拉黑了。
![]()
近日,演员温峥嵘无奈求助,自曝刷到AI盗播自己。
出道多年,经典角色,可她怎么也没想到,有一天自己得证明“我是我”。
![]()
而实际上,这种事情已经不是第一次发生,早在4月份之前,就有人说她出现在多个直播间,“同一时段,妆发不同,不同的产品,说着同样的话”。
![]()
这些“假温峥嵘”在直播间里说得天花乱坠,卖着各种没有正规厂家的产品。
她们不仅动作神态模仿得像,连声音都极为逼真。
![]()
为此,团队还整理了相关证据,发了律师函。
一天投诉了五十个左右还没开播的仿冒账号,至少拉停了二十个直播账号,举报都要点冒烟了,但无甚大用。
![]()
因为这些假账号简直是“野火烧不尽,春风吹又生”。
那么这些素材都是从哪里的呢?
温峥嵘带货的直播切片,就是源头。
![]()
没办法,黔驴技穷的温峥嵘在11月5日进行了三场以“我是真的温峥嵘”为主题的直播,讲述近期被AI伪造、AI换脸直播带货的情况。
把明星逼到这份上,也是少见了。
但温峥嵘的事件不是个例,内娱明星中,受害者有一个“足球队”!
![]()
02
老戏骨靳东就首当其冲。
![]()
2020年,一位江西女子在短视频平台上认识了一个自称是靳东的用户。
这个“靳东”对她特别热情,不仅频繁和她聊天,还向她告白、求婚。
为了证明这份“爱情”的真实性,“靳东”还和她合拍了短视频,并发布在平台上。
![]()
这让女子更加坚信不疑,觉得自己遇到了真爱。
随着感情的“升温”,“靳东”开始以拍戏需要资金为由,向女子索要钱财。
女子毫不犹豫地相信了他,不仅把自己的积蓄全部拿了出来,甚至还打算离家出走,去众筹借钱给对方。
幸运的是,银行工作人员发现了女子的异常行为,并及时联系了警方。
![]()
警方经过调查,发现这个所谓的“靳东”是不法分子利用AI换脸和变声技术伪造的虚假账号,目的就是骗取女子的钱财。
无独有偶,2023年9月,王先生也遇到了类似的骗局。
![]()
他的母亲是靳东的忠实粉丝,平时喜欢在短视频平台上关注靳东的动态。
突然有一天,母亲告诉他,自己在平台上结识了“靳东”。
此后,“靳东”就以各种理由向母亲索要钱财,母亲前后为他花费超过了20万。
![]()
王先生发现母亲的行为异常后,经过仔细询问,才知道母亲被骗了。
他立即报警,警方迅速展开调查,揭开了这起“假靳东”诈骗案的真相。
![]()
这个犯罪团伙利用AI技术合成靳东的视频和声音,在短视频平台上创建大量假靳东账号,吸引粉丝关注。
利用粉丝的痴迷,各种卖惨,一旦有粉丝上钩,他们就会以各种理由索要钱款。
![]()
“假靳东”事件的曝光,让靳东本人也十分愤怒。
在今年的两会小组讨论上,他也一再呼吁国家出手整治AI乱象:
“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。”
![]()
无独有偶,今年8月,央视曝光了多个利用AI仿冒奥运冠军全红婵带货土鸡蛋的账号。
视频中,AI全红婵一会卖土鸡蛋,一会又推荐农家土蜂蜜。
![]()
一时间,不少网友信以为真,纷纷点赞下单支持,让诈骗团伙赚的盆满钵满。
![]()
但实际上,全红婵的家人早在四月就辟谣,全红婵并未给相关农产品代言或授权。
![]()
中招“被带货”的不只全红婵,就连国乒队也遭殃,AI仿冒的孙颖莎、王楚钦也层出不穷。
![]()
AI仿冒名人已不是新鲜事,但没想到这股风,竟然还能吹到央视主持人身上?
03
“家人们,这个深海多烯鱼油你们得试试,包治百病。”
在直播间里,一位长得和央视主持人李梓萌极为相似的人,正热情地推荐着产品。
![]()
她声称这款鱼油能改善头晕手麻、恢复记忆,还信誓旦旦地强调:
“有央视给你们把关,绝对有保障。”
![]()
很多观众因为信任这张播报新闻多年的面孔,毫不犹豫地就下单购买了。
可当产品陆续送到消费者手中后,大家才发现自己上当受骗了。
![]()
仔细查看产品执行标准后,才发现这所谓的“神药”,不过就是糖果类食品,根本不具备任何保健功能。
李梓萌被AI克隆的事件曝光后,北京海淀区市场监管局迅速介入调查。
结果发现,画面里的脸和声音都是AI合成的。
![]()
央视方面很快做出回应,称李梓萌那段时间正在筹备新节目,根本没时间进行直播带货,更不可能推销什么鱼油。
至此,真相大白,原来这一切都是不法分子利用AI克隆技术制造的骗局。
![]()
刘晓庆在看过“AI刘晓庆”后,也惊呼相似度极高。
她曾紧急辟谣:
“画面是我,声音很像我,但不是我!这是怎么做到的?”
![]()
明星们的“数字分身”在未经授权的情况下,活跃在各个直播平台,推销着从女装到奶粉的各种商品。
这些伪造的名人代言不仅损害了消费者权益,更严重侵犯了明星的肖像权、名誉权。
![]()
那么,AI仿冒名人现象为何如此泛滥?
究其根源,在于AI伪造的门槛太低,而利润却相当可观。
![]()
在这条产业链中,上游通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模。
中游则实现人脸替换、驱动与重播、对抗检测清洗等。
下游直接通过AI换脸进行诈骗、诱导转账、直播带货或打赏等违法犯罪行为。
![]()
在各平台,提供相关AI伪造服务的商家比比皆是。
记者在某二手交易电商平台上发现,进行人脸识别、代做视频、人脸(信息)提取的业务售价仅30元!
![]()
虽然卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益,但这样的“君子协定”到底具有多大的约束力,恐怕要打一个问号。
面对这种乱象,国家终于出手了!
![]()
04
李梓萌的案子成为了第一个AI虚假广告案,涉案人员很快被警方抓获。
![]()
除了抓人罚款外,相关部门还要求直播平台升级技术,自动识别AI合成内容。
同时要求主播必须实名登记,从源头上遏制AI虚假广告的传播。
![]()
而温峥嵘事件,央视直接在抖音平台开设直播澄清。
在各个明星的呼吁下,国家终于出手了。
近日,国务院推出了《深化“AI+”行动落实意见》的详细指导文件,强调了政府在推动人工智能技术发展方面的坚定承诺。
![]()
该倡议的核心是优化国家人工智能发展的基础设施,尤其是改善智能计算资源的国家布局。
在执法层面,北京市海淀区市场监管局运用《中华人民共和国广告法》对滥用AI技术冒用知名人物形象发布虚假广告问题首度“亮剑”。
![]()
平台方面也开始行动,抖音电商安全与信任中心在11月6日发文称,10月已启动“仿冒名人宣传”专项治理行动。
专项启动以来,已严厉处置违规账号1.1万个,商品6700余个,同时,平台也积极引导多位达人开通“阻止相同侵权内容传播”功能,保障权益。
![]()
同时,平台也积极引导多位达人开通“阻止相同侵权内容传播”功能,保障权益。
针对温峥嵘案例,抖音平台依据《创作者【仿冒名人宣传】细则》,已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。
![]()
结语
但AI治理是一场需要长久战。
从李梓萌到全红婵,从靳东到温峥嵘,名人们仍在AI仿冒的漩涡中挣扎。
技术本身没有善恶,但使用技术的人却有。
![]()
在这场AI的攻防战中,我们需要更好的技术、更严的法律、更平台的责任心,以及每个网民更清醒的认知。
AI的未来不应是骗局横行的荒野,而应是促进社会进步的沃土。
![]()
【免责声明】
文章描述过程、图片都来源于网络,此文章旨在倡导社会正能量,无低俗等不良引导。
如涉及版权或者人物侵权问题,请及时联系我们,我们将第一时间删除内容!如有事件存疑部分,联系后即刻删除或作出更改。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.