这年头AI技术的发展也是越来越好了。
本以为是能够给大家带来方便的一个工具,没想到却被有人之心利用拿去行骗。
11月6日,央视就曝光了一起利用AI换脸来进行直播的真实案例。
而被换脸的对象,就是前段时间大火的《许我耀眼》中的婆婆“温峥嵘”。
本来温峥嵘平时自己也会开直播卖卖货。
但没想到在她没有直播的时候,她的脸出现在了三个不同的直播间里面。
就连她自己都懵了,称有一天拍完戏休息的时候打开手机,发现“自己”竟然在直播。
![]()
这才让她意识到自己的脸,是被一些无良商家给“盗用”了。
他们利用温峥嵘以往的一些直播素材,然后再用AI技术进行整合和处理。
再加入她的语音,就能生成一个虚拟的“温峥嵘”。
![]()
而它就可以在直播间和观众进行互动,最有些“虚拟人物”做到了以假乱真的样子。
不少网友也因此上了当,本来是冲着温峥嵘在下单买东西的,谁曾想自己看到的是个假的。
![]()
温峥嵘自己在看到那些直播间的时候立马就和团队进行了举报,来来回回举报了将近50多个账号。
然而这些东西就像是有繁殖能力一样,过个几天又出来了一大堆,让人防不胜防。
![]()
说实话,某些平台的监管力度有些不到位了,这种很明显的AI技术合成的都没有审核出来。
这件事情真不是什么小事,之前就有过很多骗子喜欢这么干,将手机里面的一些视频和声音保留下来。
然后用AI生成与一个虚拟人物,再通过打电话或者开视频的方式来索要钱财。
![]()
一些老年人就很容易上当受骗,所以建议大家在遇到和钱财相关的事情时,一定要谨慎再谨慎。
最好是能够亲自打电话过去重新确认一番,再去做决定。
![]()
值得一提的是,温峥嵘在面对“盗脸”直播间的时候,她还专门进去直播间问了一句。
“你是温峥嵘的话,我是谁”,没想到刚问完这句话,直接就被对方给拉黑了。
![]()
可想而知这些无良商家,为了挣这些丧良心的钱有多么的没有下限。
![]()
AI既要发展也要加强监管,要不然因此上当的人会越来越多,不光是一些老年人会上当受骗。
就连一些自以为能够看出来是AI的年轻人,也没少上当。
![]()
有句话叫“河里面淹死的人,往往都是些会游泳的”,所以大家千万不要大意。
其次平台真的需要加强监管了,对那些盗脸生成的直播间进行永久封禁,同时追究账号主体人的责任。
![]()
要做到严厉管控,严厉打击,才能让这些AI乱象有所减少。
消费者在买东西的时候,也一定要打起十二分的精神来,仔细甄别自己购买的物品和选中的主播。
![]()
一旦发现有什么不对劲的地方,可以自发的向平台进行举报,大众同样可以起到监管的作用。
最后希望大家,在直播间买东西的时候,要看仔细了,谨防上当受骗。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.