吉林
前言
告不完！
就连央视李梓萌被牵连？
国家终于出手了！
01
都说科技改变生活，但科技怎么用，全看使用者的良心。
谁能想到，AI诈骗的风居然刮到了内娱明星身上？
“你是温峥嵘，那我是谁？”
深夜下班的温峥嵘，刚打开手机就发现“自己”正在直播。
温峥嵘发出一句质问，却直接被直播间拉黑了。
近日，演员温峥嵘无奈求助，自曝刷到AI盗播自己。
出道多年，经典角色，可她怎么也没想到，有一天自己得证明“我是我”。
而实际上，这种事情已经不是第一次发生，早在4月份之前，就有人说她出现在多个直播间，“同一时段，妆发不同，不同的产品，说着同样的话”。
这些“假温峥嵘”在直播间里说得天花乱坠，卖着各种没有正规厂家的产品。
她们不仅动作神态模仿得像，连声音都极为逼真。
为此，团队还整理了相关证据，发了律师函。
一天投诉了五十个左右还没开播的仿冒账号，至少拉停了二十个直播账号，举报都要点冒烟了，但无甚大用。
因为这些假账号简直是“野火烧不尽，春风吹又生”。
那么这些素材都是从哪里的呢？
温峥嵘带货的直播切片，就是源头。
没办法，黔驴技穷的温峥嵘在11月5日进行了三场以“我是真的温峥嵘”为主题的直播，讲述近期被AI伪造、AI换脸直播带货的情况。
把明星逼到这份上，也是少见了。
但温峥嵘的事件不是个例，内娱明星中，受害者有一个“足球队”！
02
老戏骨靳东就首当其冲。
2020年，一位江西女子在短视频平台上认识了一个自称是靳东的用户。
这个“靳东”对她特别热情，不仅频繁和她聊天，还向她告白、求婚。
为了证明这份“爱情”的真实性，“靳东”还和她合拍了短视频，并发布在平台上。
这让女子更加坚信不疑，觉得自己遇到了真爱。
随着感情的“升温”，“靳东”开始以拍戏需要资金为由，向女子索要钱财。
女子毫不犹豫地相信了他，不仅把自己的积蓄全部拿了出来，甚至还打算离家出走，去众筹借钱给对方。
幸运的是，银行工作人员发现了女子的异常行为，并及时联系了警方。
警方经过调查，发现这个所谓的“靳东”是不法分子利用AI换脸和变声技术伪造的虚假账号，目的就是骗取女子的钱财。
无独有偶，2023年9月，王先生也遇到了类似的骗局。
他的母亲是靳东的忠实粉丝，平时喜欢在短视频平台上关注靳东的动态。
突然有一天，母亲告诉他，自己在平台上结识了“靳东”。
此后，“靳东”就以各种理由向母亲索要钱财，母亲前后为他花费超过了20万。
王先生发现母亲的行为异常后，经过仔细询问，才知道母亲被骗了。
他立即报警，警方迅速展开调查，揭开了这起“假靳东”诈骗案的真相。
这个犯罪团伙利用AI技术合成靳东的视频和声音，在短视频平台上创建大量假靳东账号，吸引粉丝关注。
利用粉丝的痴迷，各种卖惨，一旦有粉丝上钩，他们就会以各种理由索要钱款。
“假靳东”事件的曝光，让靳东本人也十分愤怒。
在今年的两会小组讨论上，他也一再呼吁国家出手整治AI乱象：
“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”
无独有偶，今年8月，央视曝光了多个利用AI仿冒奥运冠军全红婵带货土鸡蛋的账号。
视频中，AI全红婵一会卖土鸡蛋，一会又推荐农家土蜂蜜。
一时间，不少网友信以为真，纷纷点赞下单支持，让诈骗团伙赚的盆满钵满。
但实际上，全红婵的家人早在四月就辟谣，全红婵并未给相关农产品代言或授权。
中招“被带货”的不只全红婵，就连国乒队也遭殃，AI仿冒的孙颖莎、王楚钦也层出不穷。
AI仿冒名人已不是新鲜事，但没想到这股风，竟然还能吹到央视主持人身上？
03
“家人们，这个深海多烯鱼油你们得试试，包治百病。”
在直播间里，一位长得和央视主持人李梓萌极为相似的人，正热情地推荐着产品。
她声称这款鱼油能改善头晕手麻、恢复记忆，还信誓旦旦地强调：
“有央视给你们把关，绝对有保障。”
很多观众因为信任这张播报新闻多年的面孔，毫不犹豫地就下单购买了。
可当产品陆续送到消费者手中后，大家才发现自己上当受骗了。
仔细查看产品执行标准后，才发现这所谓的“神药”，不过就是糖果类食品，根本不具备任何保健功能。
李梓萌被AI克隆的事件曝光后，北京海淀区市场监管局迅速介入调查。
结果发现，画面里的脸和声音都是AI合成的。
央视方面很快做出回应，称李梓萌那段时间正在筹备新节目，根本没时间进行直播带货，更不可能推销什么鱼油。
至此，真相大白，原来这一切都是不法分子利用AI克隆技术制造的骗局。
刘晓庆在看过“AI刘晓庆”后，也惊呼相似度极高。
她曾紧急辟谣：
“画面是我，声音很像我，但不是我！这是怎么做到的？”
明星们的“数字分身”在未经授权的情况下，活跃在各个直播平台，推销着从女装到奶粉的各种商品。
这些伪造的名人代言不仅损害了消费者权益，更严重侵犯了明星的肖像权、名誉权。
那么，AI仿冒名人现象为何如此泛滥？
究其根源，在于AI伪造的门槛太低，而利润却相当可观。
在这条产业链中，上游通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模。
中游则实现人脸替换、驱动与重播、对抗检测清洗等。
下游直接通过AI换脸进行诈骗、诱导转账、直播带货或打赏等违法犯罪行为。
在各平台，提供相关AI伪造服务的商家比比皆是。
记者在某二手交易电商平台上发现，进行人脸识别、代做视频、人脸（信息）提取的业务售价仅30元！
虽然卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益，但这样的“君子协定”到底具有多大的约束力，恐怕要打一个问号。
面对这种乱象，国家终于出手了！
04
李梓萌的案子成为了第一个AI虚假广告案，涉案人员很快被警方抓获。
除了抓人罚款外，相关部门还要求直播平台升级技术，自动识别AI合成内容。
同时要求主播必须实名登记，从源头上遏制AI虚假广告的传播。
而温峥嵘事件，央视直接在抖音平台开设直播澄清。
在各个明星的呼吁下，国家终于出手了。
近日，国务院推出了《深化“AI+”行动落实意见》的详细指导文件，强调了政府在推动人工智能技术发展方面的坚定承诺。
该倡议的核心是优化国家人工智能发展的基础设施，尤其是改善智能计算资源的国家布局。
在执法层面，北京市海淀区市场监管局运用《中华人民共和国广告法》对滥用AI技术冒用知名人物形象发布虚假广告问题首度“亮剑”。
平台方面也开始行动，抖音电商安全与信任中心在11月6日发文称，10月已启动“仿冒名人宣传”专项治理行动。
专项启动以来，已严厉处置违规账号1.1万个，商品6700余个，同时，平台也积极引导多位达人开通“阻止相同侵权内容传播”功能，保障权益。
同时，平台也积极引导多位达人开通“阻止相同侵权内容传播”功能，保障权益。
针对温峥嵘案例，抖音平台依据《创作者【仿冒名人宣传】细则》，已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。
结语
但AI治理是一场需要长久战。
从李梓萌到全红婵，从靳东到温峥嵘，名人们仍在AI仿冒的漩涡中挣扎。
技术本身没有善恶，但使用技术的人却有。
在这场AI的攻防战中，我们需要更好的技术、更严的法律、更平台的责任心，以及每个网民更清醒的认知。
AI的未来不应是骗局横行的荒野，而应是促进社会进步的沃土。
【免责声明】
文章描述过程、图片都来源于网络，此文章旨在倡导社会正能量，无低俗等不良引导。
如涉及版权或者人物侵权问题，请及时联系我们，我们将第一时间删除内容!如有事件存疑部分，联系后即刻删除或作出更改。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
