过年这段时间,各种“名人”拜年视频,你有刷到过吗?不管是视频的声音,还是样貌,甚至连说话的语气、下意识的小动作,都跟他本人一模一样。
视频里的人说着暖心的吉祥话,可你有没有想过,那可能根本就不是他本人?
![]()
或许你可能会觉得,这怎么可能?这就是胡说八道、危言耸听!但事实就是如此,连老戏骨王劲松,最近都因为这事气得在网上直拍桌子。
![]()
这到底是怎么回事?
原来,这位58岁的演员发现自己被AI技术给“克隆”了。网上那些突然冒出来的,顶着他的脸,用着他的声音,表演着他说话的神态和口型。
可王劲松心里门儿清:那压根就不是他!
这是有人用AI工具,硬生生“偷”走了他的“身体”,制造出一个跟他一模一样“数字人”。
![]()
想想王劲松演过的那些角色,从《琅琊榜》里沉稳睿智的言侯爷,到《破冰行动》里阴狠狡诈的林耀东,哪个不是深入人心的角色?
他靠着自己的努力,认真细致地打磨每个角色,他几十年积累下来的演技,那是实打实的硬功夫。
可如今,他半辈子的打磨积累和公众形象,在AI技术面前,竟变得如此不堪一击。
![]()
仅仅几张剧照,几段采访录音,就可以随意被“有心人”拿去,拼凑出一个能说会道、任人摆布的“虚拟王劲松”。
这感觉,就像是有人穿上你的衣服,戴上你的“脸皮”,用着你的声音,肆意妄为地去做任何事情,而你自己却是一无所知,想想都让人起一身的鸡皮疙瘩。
有人在想,这有什么可怕的?不就是冒用了一下人物形象嘛?没什么大不了的,可是现实,哪有这么简单!
他担心的,不是自己的形象展现在大众视野,他更担心是,如果家里的老人、孩子看到这些以假乱真的视频,信以为真了怎么办?
![]()
如果这个“假王劲松”在视频里说些荒唐话,甚至干些骗人的勾当,这笔账是不是又要算到他这个真人头上?
这简直是跳进黄河也洗不清的无妄之灾啊!
说到被骗,就不得不提另一位深受其害的演员——靳东。
他的遭遇,或许更能让我们普通人感受到这种AI滥用的切肤之痛。
靳东在中老年观众群体里,影响力那是相当大的。结果,就有骗子盯上了这点,利用AI换脸和拟声技术,在短视频平台上伪造了大量的“靳东”账号。
![]()
这些假账号专门寻找年纪较大的女性用户,嘘寒问暖,甚至以“恋爱”“结婚”为名进行感情诈骗。
江西就曾有位老人,对屏幕里那个对自己甜言蜜语的“靳东”深信不疑,当对方声称遇到困难需要资金周转时,老人差点就要去银行贷款“支援”他。
这哪里是简单的侵权?这分明是利用技术,在戳人最脆弱的情感软肋,是在摧毁一个个真实的家庭!
![]()
明星尚且如此,我们普通人就能高枕无忧了吗?千万别这么想!现在的AI技术门槛低得吓人。
网上各种教程一搜一大把,几乎到了“人人皆可换脸”的地步。这意味着,你手机里的一张自拍,一段微信语音,都有可能成为别人制作“假你”的素材。
![]()
试想一下,哪天你突然接到家人的视频电话,里面的“父母”着急地跟你说在外地出事了急需用钱,声音、样貌、语气、背景都毫无破绽,你能冷静地判断出那是AI合成的吗?
或者,你的“老板”在社交软件上用语音给你下达一个奇怪的转账指令,语气急促不容置疑,你会不会一时慌乱就照做了?
这不是科幻电影,而是已经发生的现实。从冒充公司老板骗走财务人员百万巨款,到模仿子女声音诈骗独居老人养老金,利用AI实施的精准诈骗案例层出不穷,谁都可能成为下一个受害者。
![]()
面对这种“真假美猴王”式的困局,我们该怎么办?光靠王劲松、靳东们站出来发声是远远不够的。这需要全社会绷紧一根弦。
1、法律和监管的拳头必须更快、更硬
科技发展迅速,技术跑得太快,法律就必须奋力赶上,明确AI生成内容的标识和溯源,对恶意伪造、用于诈骗的行为要从重惩处,大幅提高侵权和犯罪成本。
![]()
2、各平台主动积极的担起责任,不能缺位
对于这类利用明星或普通人肖像、声音合成的视频,审核机制必须更加灵敏,投诉通道必须畅通有效,不能给不法分子得以猖狂的机会。
3、也是最重要的一点,我们每个人都应该要有防护意识,主动给自己装上一道“心理防火墙”
凡是涉及钱、密码、转账的线上要求,无论对方看起来多么“真”,多么“急”,都必须通过电话、见面等多种方式反复、直接地核实。
对网络上过于逼真的“明星”互动、过于巧合的“熟人”求助,多一份警惕,多一次验证,少一个“诈骗”。
![]()
王劲松的这次“中招”,就像一面镜子,照出了技术狂欢背后潜藏的阴影。
AI是把锋利的双刃剑,用好了能创造未来,用歪了就能伤人无形。
我们不能一概而论废除技术,但也绝不能躺在科技的温床上,天真地以为危险还很遥远。
保护好自己的脸和声音,就是保护我们在数字世界中最基本的身份和尊严。
这场“打假”之战,不是一个人就能“力挽狂澜”,需要我们每一个人的参与,贡献我们力所能及的力量,还自己一份安全保障!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.