AI换脸横行霸道，央视揭开真相，温峥嵘维权，靳东“预言”成真

AI换脸横行霸道，央视揭开真相，温峥嵘维权，靳东“预言”成真

编辑：BHK

“我现在就很难证明我是我。”“你是温峥嵘，那我是谁？”

当法律的更新速度跟不上科技的更新速度时，那将会成为不法分子的赚钱的漏网。

演员温峥嵘最近上网发现，自己现在家里刷手机，但是屏幕里的“自己”正在直播带货。

对方用AI换脸技术毫无破绽，更可怕的是就连说话的声音都和她本人一模一样，实在是害怕。

点进直播间质问却被对方反手拉黑，这两年AI合成名人的视频层出不穷多数人上当受骗。

用名人效应欺骗消费者，还会把明星名声搞得一团糟，其实之前靳东就“预言”过AI别乱用。

现在的AI技术相对来说很成熟了，你可以看到马化腾在唱歌，也可以看到雷军在跳舞。

有些人二创生成搞笑抽象视频逗得大家哈哈大笑，也有人会用这些技术去害人骗钱等。

演员温峥嵘在网络上发现有“自己”穿着的精美的衣服，化着精致的妆容和打扮在直播带货。

其实早在4月份就有身边的亲朋好友发消息提醒过温峥嵘，看到她同时出现多个直播间在带货。

多个“温峥嵘”短衣打扮各不相同，手里的带货产品也不相同，但嘴里的直播话术却分毫不差。

温峥嵘立马发视频提醒大家，而当她凌晨三四点疲惫的的回到家准备玩会儿手机放松自己时。

惊讶的发现直播间的那个“温峥嵘”，不仅长相和自己相同，就连声音和口音也做到完美还原。

这让她又惊讶又生气，点进你直播间就质问对方“你是温峥嵘，那我是谁？”

结局确实没等到对方的回应，却等来了对方的反手拉黑，对方好像丝毫不怕态度极其嚣张。

其实不止温峥嵘一个人被换脸了，就连女演员刘涛、张柏芝等一众明星在某品牌介绍产品。

连年轻人看到这些都会相信，那别说了缺乏网络认知的老年人了，他们能难以辨别AI的真假。

面对这样嚣张跋扈的盗播现象，温峥嵘团队早已发出律师函，工作人员积极的维护艺人的权利。

但是在自证和不法分子更新换代问题面临了很大的困难，如同打地鼠一般的让人抓耳挠腮。

断断续续举报了几十个，根本都举报不过来举报封了一个号，他们转头再开一个新号继续直播。

当这个潘多拉魔盒被打开过，各种一线明星和奥运冠军等，只要是有名有流量的全在“开直播”

在2025年全国两会上，演员靳东作为全国政协委员，提出应通过立法规定AI换脸技术的使用。

他说“一些喜欢我的影视剧的观众，被AI换脸视频骗得很惨，希望能建立更好的一个规则。”

靳东本人也遭受此事情，不少中老年人声称收到靳东的私信让他们给让他转钱，闹得满城风雨。

工作室赶紧发文声明和强调，靳东绝对没有在某短视频平台开通个人账号，一切都是冒充的。

很多明星曾经是AI换脸技术的受害者，他们透析日常生活的方方面面，游戏，吃播 ，影视等。

有人看多过“全红婵”在直播间里帮妈妈卖鸡蛋，不少人被她的孝心给感动，纷纷下单支持。

不了却进入了不法分子所设下的圈套，后来全红婵家人赶紧辟谣，根本没有这回事大家注意啊。

还有人看到“杨幂”在直播间里高喊“三、二、一、上链接！”的口号，非常的顺口。

以及“佟丽娅”不拍戏了变成了直播间里的吃播博主，一边吃着美食一边上相应的链接。

央视主持人李梓萌，在直播间和视频里推销鱼油，不少中老年人觉得央视下场准没错后被骗。

他们用名人的身份进行伪造来骗取钱财，或者换脸制作一些不合法的视频来诋毁名人的名声。

靳东在此次全国争先委员会上建议建立明确的AI技术使用规范，完善法律和责任界定。

面对铺天盖地的名人AI换脸视频，和一发不可收拾的被骗的受害者，央视自己也坐不住了。

对这乱象进行报道和警告，将那些不法分子的账号一个个解开，把仿冒者打回原形追究责任。

惩戒了上网了仿冒账号，上千多条的带货视频被一个一个举报下架，将行为恶劣的进行处理。

抖音副总裁李亮在11月6日亲自发文称，对最近名人AI带货的直播间和视频进行曝光和处理。

他表示对于恶意仿冒账号，平台会逐一进行筛查和技术性的对抗，公司维护消费者的合法权益。

抖音电商官方支出，加强管理平台商家和达人使用AI技术的仿冒和虚拟人物的带货营销。

违反者将会严格处理，严重者会封闭账号，下架商品以及冻结交易金额等严肃处理。

如今的AI技术成熟的渗透世界和日常生活的方方面面，例如震惊世界的韩国deepfakers世界。

在2024年8月韩国境内发生了大规模的利用AI人工智能深度伪造技术实施性犯罪案例。

不法分子用各种通许软件盗取或者联络女孩的照片，再用deepfakers合成女孩身材照片来牟利。

照片通过“电报”（Telegram）通讯传播虚假色情内容，被誉为韩国“N号房”事件再次重启。

据调查，在deepfakerss在线求助的受害者里居然未成年人占多数，其中学校占比超过上百所。

伪造照片里涉及未成年人和特定职业的女性受害者，以及部分群组参与人数达到10万人左右。

一些不法分子为了伪造内容来敲诈勒索，用公布受害者的公开信息，导致他们对外名声毁坏。

让大部分的韩国女性陷入无止境的恐慌和折磨，她们不敢出门，删掉了自己一切网络痕迹。

多数韩国女明星也难逃魔爪，多个韩国娱乐公司发布，坚决反对任何人危害旗下艺人的立场。

多数韩国女性在各国社交媒体平台上发帖，自己遭受的深度伪照的痛苦，向大家求救和发声。

消息一经发出引发了大量的国际关注和讨论，多个相关此条连续登上多国的热搜榜首。

韩国当地警方立马成立特别工作小组对深度伪造性犯罪，韩国警方受理了900多相关案件。

面对这恶劣的案件，韩国政府也展开行动，彻查以及陈处此类的数字性犯罪。

韩国女性坚持外煤发声，自发在街上上街游行让人们关注，让受害者受到法律的制裁。

AI的产品的最先目的和初衷是让社会变得更好，生活变得更快捷，而不是犯罪危害社会工具。

从“温峥嵘”直播间到靳东呼吁规范，我们看到的不只是明星遇到的困惑，甚至到日常生活。

作为普通居民我们也不必过度的恐慌，认准官方帐号，不要贪小便宜之后捡了芝麻丢了西瓜。

多注意观察，AI换脸之后脸部僵硬、眼神空洞、口型对不上等问题，发现异常就立马举报。

在未来科技与生活的博弈会是一个长久战，只要我们保持注意辨别能力，假一定的真不了。

毕竟再这样高超的“李鬼”，也不会成为真正的“李逵”。

科技损害人民权利，我们一定站起来维权，只有人民权利得到保护，真正的文明才能进步。

对于AI换脸技术你怎么看？

信息来源：极目新闻——温峥嵘分身直播？全红婵卖土鸡蛋？AI仿冒直播乱象如何维权——2025年11月7日

杭州日报——知名女演员央视自曝受害！这也太难了……——2025年11月6日

极目新闻——靳东委员呼吁AI换脸立法，律师：让技术和法律更好结合，确保AI技术不被滥用——2025年3月6日

界面新闻——韩国大量Deepfake性犯罪涌现，受害者遍布500多所学校｜文化周报——2024年8月31日