奥运冠军、实力演员、央视主持、知名医生……
AI合成技术越来越高的同时,受牵连的名人、遭欺骗的消费者也越来越多。
![]()
从最初的“机械化音频”,到现在的真假难辨,曾以为不会被AI欺骗的年轻网友,都有些恍惚,只怕自己也上当受骗。
那么,AI合成诈骗的风气是何时开始,又是怎么“壮大”的呢?这场波及全平台的闹剧,何时才能结束?
虚假带货
自从全红婵成为新星后,围绕在她身边的争议太多了,就连她的至亲都深受牵连,无一例外。
围堵在家门口的、调查航班信息的、扒出过往经历的、现场伸出“咸猪手”的,数不胜数。
开心夺冠的时候,有人骂她像个“白痴”,到了状态下滑的阶段,又有人追着“唱衰”。
最可恨的,当属利用她的形象搞诈骗的无良商家,通过AI手段欺骗善良的中老年消费者。
![]()
中老年消费者分不清AI和现实,误以为她家里真的生活困难,不得不帮家里卖农产品。
下单的时候,恐怕还觉得自己帮了她一把,没想到辛苦赚来的钱,落入了无良商家的口袋。
不仅她成了“带货工具”,她的家人也没有逃过被利用的命运,全家人齐上阵当“代言人”。
无良商家借此机会,赚得盆满钵满,所有的骂名,则是由她一人承担,这对她很不公平。
要说最离谱的,还得是同时现身八个直播间的温峥嵘,她虽然也打广告,但是绝不会同时在八个直播间卖货。
这些无良商家仗着平台监管不力,肆无忌惮地将她的形象,放在直播间里,让她无偿帮忙带货,并承担责任。
等她发现的时候,已经来不及了,很多消费者都已经上当,可是损失不能由她来弥补,她也无可奈何。
![]()
除了全红婵和温峥嵘之外,还有很多名人深受牵连,其实无良商家采取的套路是一样的,并不算高明,只是中老年消费者弄不明白AI,才会相信虚假广告,毫无戒备地掉入圈套。
平台监管一直不力,相关部门也迟迟没有出手,波及的范围只会越来越广,就连央视在职主持人都成了无良商家的“目标”,再一次印证了“AI风波”有多可怕。
风波不断
与诸多出走的央视女主持不同,李梓萌这些年兢兢业业,从来没有掉过链子。
央视的要求本来就严格,她刚到央视工作的时候,经常读错字,每次都被罚钱。
有传闻称她“贷款上班”,这是调侃她读错了太多字,实际情况肯定没这么夸张。
作为“女版康辉”,只要她想,一定能在短视频平台大展拳脚,可她并没有这样做。
![]()
短视频平台,也没打算放过“安分守己”的她,无良商家竟然打起了她的算盘。
当她的脸出现在直播间时,不少消费者都被蒙骗了,误以为“女版康辉”也开始带货了。
直播间里她的脸,是从《新闻联播》的画面中“抠”下来的,背景都一模一样。
她的声音,则是通过AI合成,漂亮的音色是她的,内容则是商家写的宣传语。
网速快的年轻群体,很容易发现问题所在,虽说口型和声音能对上,但是语气很不自然。
再者说了,《新闻联播》的背景出现在直播间,一眼就能看出是假的,只是老年网友分不清。
在电视机前看《新闻联播》的老年观众,都相信了她是“鱼油代言人”,激情下单。
回过神来才知道,一切都是假的,脸是抠的、图是P的、声音是合成的,嘴型也是AI的。
![]()
一直没有创建个人账号,平时生活又低调,她一直没办法“有效辟谣”。
帮她澄清的,都是热心的年轻网友,只是举报到处理都需要时间,效率并不高。
平台监管不力,仍由AI合成视频肆无忌惮地搞虚假宣传,显然应该承担责任。
只可惜“装睡”的平台,谁都叫不醒,AI带来的巨大利益,平台当然不愿意错过。
官方出手
央视主持都成了骗子牟利的工具,官方若是再不出手,恐怕说不过去了。
在警方的全力追查下,制作相关虚假AI带货视频的团队,直接被“一锅端”。
从策划人员到技术人员,无一幸免,就连涉事的账号,也被直接封禁。
官方出手的效果显著,从那之后,类似的案例极为少见,风口浪尖上,谁都不敢放肆。
![]()
无良商家都接受了惩罚,平台也不能不改变,按照官方要求,平台必须仔细甄别内容形式。
发现一丁点AI的痕迹,都要在视频下方,作出明显的标注,算是给消费者提一个醒。
若是平台已经尽到了监管责任,也标注得很明白了,还有人上当受骗,那就是自己的问题。
![]()
同时,针对无辜受牵连的名人的网暴,也该停下来了,他们从头到尾都没有参与过诈骗,消费者被骗走的钱,也没有掉入他们的口袋,他们凭什么遭受网暴呢?
那些要求他们赔偿损失的言论,更是不必提了,就算名人的收入高,也不该为平台的错误买单,与其找他们的麻烦,不如跟平台谈谈,如何追回损失,或是稍加弥补。
![]()
如今经济大环境并不好,赚钱如此辛苦,更要看好自己的钱包,不能用自己的血汗钱,充实骗子的钱包,还是要仔细甄别,否则吃亏的就是自己。
官方也要继续加大追查力度,平台更要积极配合,提供有效的线索,有可能追回的损失,一定要努力追回来,不能让信任平台的消费者寒了心。
![]()
AI本身是对日常生活和工作有利的工具,如今演变成诈骗利器,实在不应该,一次又一次的风波,只会让大众对AI产生戒备,扰乱社会秩序。
既然AI的进化是必然,那就想尽一切办法,打击居心叵测的不良分子,只有监管严了、惩处力度强了,才能震慑住他们,才能还AI创作者一片净土。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.