AI造假，伦理崩塌，网友疯了

当你刷到这样一条视频：

镜头里和蔼可亲的老人告诉你说“自己活到108岁，试茶80多年了”，然后开始推广一款茶叶产品。

是不是觉得特别权威，很心动想买？

图源：抖音@新京报

如果再告诉你，这位茶界泰斗其实已经去世8年多，只是被AI“复活”了，所有的推荐话术都是AI生成的。

你还愿意买吗？

本来一位毕生推广茶学的专家，就这样被包装成了给某品牌做产品代言的“销售”。

此刻，你有什么样的感觉？

如果镜头里被AI复活的，是你的偶像、你的亲人呢？

AI正在挖坟整蛊全世界的名人

这就是前阵子，茶界泰斗张天福被“AI复活”的事件，在网上闹得可谓是沸沸扬扬。

除了侵犯肖像权等法律层面的问题，在道德层面上，舆论基本是一边倒的，网友们都觉得茶企此举不妥，是对逝者的不尊重。

而被“复活”的张天福，只是冰山一角。因为这几年，AI已经从炫技进化到了疯癫的地步，被复活的名人正在互联网上做一切事情。

一开始，这些AI内容看起来还像是玩笑：

孔子成了某教培CEO，说卖课太卷了，打算考教师资格证、整个编制上岸；

图源：抖音@Xuan酱，下同

唐僧摇身一变成了“美佛到家”的骑手，骑着白龙马开始送外卖，怕超时在街道上疾驰；

伯乐不再找“千里马”，猎头工作被裁员后，成了跑网约车的司机；

鲁迅从出版业一下子转行成了脱口秀演员，说写文章、当医生都不赚钱，只能开始说脱口秀；

牛顿更是直言物理没什么搞头了，转头就在直播间卖起了新疆阿克苏苹果，说这是当时砸在自己头上的苹果……

以上这些，看似是借名人讽刺当下的“内卷”、职业困境、时代错位……荒诞里，还有点苦中作乐的意味。

但没有底线的AI，正在让名人一步步彻底失去尊严——

已故的英国女王伊丽莎白二世，被AI扔进了猪圈里，躺在猪身上喘着气，周围散着一堆酒瓶；

图源：sora 下同

科比也被AI换上粉色小猪的衣服，在猪圈的泥巴里蹭来蹭去，弄到浑身脏兮兮；

下一秒，科比又因为肚子疼坐在马桶上，结果地板忽然涌出一大堆类似粪便的泥水，弄得他既尴尬又错愕……

AI通过厕所、猪圈等肮脏的环境设定，让这些名人做出违背身份的事情，不断让他们的大众印象降格。

而羞辱已逝名人的手段，还在不断升级。比如，强行给他们设定荒诞的戏码——

伊丽莎白二世身穿运动服，参加类似《男生女生向前冲》的节目，结果一个跟头翻进了水池里；

坐在轮椅上的霍金，被AI强行塞进了飞机行李舱；

被设定成赛车手，驾驶轮椅开始飙车比赛；

被推进了泳池，和运动员一起比赛，却只能在原地漂浮；

被扔在擂台上，周围拳手一哄而上，场面一片混乱；

甚至还有拳手，对着霍金的脸疯狂出拳，霍金却没有任何招架和还手的能力……

AI就这样不断放大他人的身体缺陷，把逝者当成可供娱乐和戏谑的素材。

很多人觉得这很好玩，没什么大不了的。所以，这些已逝的名人，被AI强行制造出了一个又一个更低俗的剧情——

科比在飞机上和飞行员吵架，甚至还怀了孕，捧着肚子和一旁的印度女性讨论自己的孕期感受；

伊丽莎白二世在快餐店，和别人打架，

甚至还给了爱因斯坦一巴掌；

李小龙在超市，被警察带上手铐押走，

因为他被拍到在快餐店偷吃汉堡，仓皇逃跑结果撞碎了橱窗玻璃，

甚至和上世纪乐坛巨星猫王，来到一家人的门外，按完门铃像顽皮的青少年一样转头逃窜，被设计成游手好闲的人；

猫王则被复活成了推销员，端着一盘包子到处兜售；

迈克尔·杰克逊在电视节目里跟希特勒对骂，大晚上出现在别人家口要求对方开门，还抢劫别人桌上的快餐边跑边滑太空步；

甚至高中语文课本里《我有一个梦想》的演讲作者、美国黑人民权运动领袖马丁·路德·金，也出现了在飞机上和空姐吵架、在便利店拿了东西不付钱大喊着转身就跑的荒谬低俗剧情……

这一刻，他们不再是历史，不再是被爱戴的个体。他们穷尽一生建立的所有美德、努力和尊严，被毁灭殆尽，成了可以被路人随便嘲笑的小丑。

AI已经疯了，阴的没边了。

有人以此为乐，也有人开始担心未来——

因为他们发现自己根本分不清虚构和真实。未来可能会被别人骗，更重要的是后代也许会逐渐忘记真实的历史人物，不知道在这些名人身上发生的事，哪些是真的，哪些是假的。

图源：X

以为是温情，实则在挖坑

很多人可能会说，能不能做出相应的约束，让AI不要做那么夸张、恶俗的剧情，比如做点已逝明星问候大家的温情视频，不也挺好的吗？

的确，有人这样做了。或许这是出于缅怀与善意，但是，依然会伤害到一些人。

图源：抖音@老人与海

“我是coco李玟，我永远都会陪伴着你们”；

“我是高以翔，我永远爱你们，我一直在另一个世界陪伴着你们”；

“大家好，我是kimi乔任梁，其实我没有真的离开”……

一个个被粉丝委托做出的AI视频，让一张张熟悉的面容重新回到大家面前。

图源：抖音@21世纪经济报道

很多人愣住了。

原本已经逐渐淡去的那些痛苦回忆，又一次涌上心头。不只是这些被AI复活的明星，还有更多逝者被人们想起，渴望看到他们“活生生”地站在镜头面前。

或许，对有些人而言，看到AI复活的明星，和当初他们活着的时候隔着屏幕看他们的方式无异。他们没有真正见过这些名人，代餐也好，真人也罢，以解相思足以。

可对于这些逝者的亲人呢，他们看到这些视频会作何感想？

李玟80多岁的母亲，找来律师发出律师函；

乔任梁的父亲，希望AI复活乔任梁的视频能尽快下架，说自己不能接受且感到不适，是在揭自己和家人的伤疤；

江歌妈妈三个带感叹号的“不接受”，更是让人看完后觉得心痛不已：

“不接受！不接受！不接受！

如果能‘复活’，也仅限于我亲自来做这件事！

你们懂得我们（痛失挚爱的人）逝去的亲人吗？

你们懂得我们（我与逝去的亲人）的感情是什么样子吗？

你们不懂我们，又凭什么为我们（我与女儿）做决定！”

字字句句里，都是痛。

更不用提，那些戏谑、娱乐逝者，甚至让他们被AI复活开始打广告的视频，会让家属有什么样的感受了。

茶叶泰斗张天福的遗孀，已经公开表示会告那个企业。

从伦理道德上来看，尤其是在“死者为大”的东亚文化圈，人们通常很难接受将逝者娱乐化。

除非，是非常想念逝者的亲人。比如音乐人包小柏，就通过AI将自己的女儿复活，让她在生日的时候给妈妈唱歌，深爱与绝望并存。

但这个过程，无疑是艰难的。包小柏为此读了相关专业的博士，还花了两年时间找了相关的AI团队，费时费力才将这一切变成现实。

甚至连自己的老婆一开始都不理解，觉得他太残忍。

图源：凤凰新闻

所以，真的有那么多人，会愿意为爱发电、无私帮助陌生人吗？

用AI复活了李玟、高以翔、乔任梁的博主，曾表示虽然这几位已逝明星的视频是自己义务做的，但如果做其他逝者的AI视频是不免费的，一条要收588元。

多数打着纪念和治愈的旗号，让已逝明星生成祝福视频的人，实际上都是为了流量变现。

他们的帮助明码标价：“定制明星视频，30秒内98元；名人AI素材价格48元到298元不等，根据具体情况来定。”

除了销售这些定制的祝福语素材等，他们还会“收徒”，基本目标人群是那些已逝明星的粉丝或者是失去亲人陷入悲痛的人。

这些学习AI“复活逝者”的课程，价格通常都不菲。

“购买980元的门徒课程，会送一本《AI门徒复活手册》，教会你如何使用AI复活工具，以及赠送价值2999的换脸课程。如果想要学习制作更为逼真的逝者视频，并且配上相似度很高的语音，需要19800元。”

明星的粉丝、失去亲人的普通人，就这样成了有心之人计划里“待宰的羔羊”。

AI很先进，但焦虑必上当

AI的技术越来越先进，套路也越来越多。来看看下面这些AI骗局，你能识破几个？

套路一，是利用名人效应，让“李鬼”卖货。

在运动员全红婵全力训练的时候，AI合成的全红婵也在各种视频里开始带货了，卖起了土蜂蜜、土鸡蛋：

“大家好，我是你们的婵宝，今天有事请大家帮忙，婵妹就想着帮助妈妈，让家里的生活过得更好一点，同时把老家的土鸡蛋分享给粉丝们尝尝。”

图源：央视新闻 下同

而这个博主的同系列视频里，还出现了孙颖莎和王楚钦帮着全红婵卖货的视频。

“大家好，我是莎莎，我为婵宝家农家土鸡蛋代言，今天我就拿到了8单做福利。”

“大家好，我是王楚钦，昨天收到婵妹私信，说他们家土鸡蛋大丰收，这么好的土鸡蛋不发出去就可惜了……”

熟悉这些运动员的人，可能会通过表述以及咬字习惯等，来判断出这并非本人，是AI。

但可怕的点在于，你不信，但不无法保证你爸妈不信。

很多受骗的人下单后，才从发货地发现了端倪，但为时已晚。

类似的事情，层出不穷。

央视主持人李梓萌，被AI仿冒带货某品牌的深海鱼油。

“突破国内技术壁垒，研究出来这个小东西，可以解决头晕头痛、手麻脚麻、四肢乏力，几十块钱就可以让40岁以上的中老年朋友吃上一整年……”

效果被夸得天花乱坠，目标人群也是有养生需求、更容易分不清是AI还是真人的中老年人群，可以说防不胜防。

图源：央视网品质严选

除了对准中老年人群，AI更是牛到能做到换脸直播。

某天晚上，温峥嵘忽然刷到了AI成自己模样的直播间，发出了“你是温峥嵘那我是谁”的疑问后，下一秒她就被这个直播间的“AI温峥嵘”给拉黑了。

她这才发现，原来自己已经被AI做成了多种形象，在不同直播间同时在进行直播，销售各种三无产品。

图源：微博@抖音电商安全与信任中心

上当的网友不在少数，除了温峥嵘他们还刷到过AI的刘涛、张柏芝、蒋欣、刘亦菲、舒淇、刘德华，并且觉得有明星代言质量不会差，就下了单。

直播，不等于真人。

无论年轻人还是中老年人，如果对AI的辨别力没那么强，真的很容易上当。

套路二，是让AI生成比短剧还夸张的虚拟剧情，然后卖货。

“俺可小的时候，俺爸因为车祸去世了，俺妈不到三个月也改嫁了，从此俺二舅就收留了我……”

一个小姑娘对着镜头，展开了自己人生经历的阐述，收养自己的二舅、二舅妈对自己有多好，没有因为有儿子就忽视她。

“俺二舅借了我5万块钱，一年之后他还了我10万。”

小姑娘也很孝顺，说自己攒钱带着二舅和二舅妈出去旅游。

然后话锋一转，就是“二舅唯一有一个毛病，就是晚上睡不着”，然后就是开始讲述他们在旅游团如何认识了一个香港90多岁的老爷爷，对方给了一个祖传的好东西，让二舅总算睡了个好觉。

没错，是一个缠绵悱恻、感人肺腑的长篇广告，专门就是为了卖一款睡眠香膏。

类似的剧情，全由AI生成，一个比一个离谱，一个比一个夸张。

女儿怀孕7个月，即将离开人世，她公公以100万的价格卖掉了婚房和所有首饰，身体差的女儿央求保大人但被拒绝，没想到手术成功她活了下来，唯一的病根就是睡不着觉，直到用了某款睡眠香膏……

自己伺候妈妈17年，妈妈重男轻女只疼弟弟……一番吐槽后回归正题，售卖能睡好觉的香膏。

就是这些看着比各种囤货末世文、重生文，夸张到不知道多少倍的AI生成假剧情，评论区下却是一条条真正走心了的老人。

套路三，是用AI生成大到离谱的农产品，来欺骗顾客。

下图中在摘辣椒的农户，手里的辣椒长得都快齐腰高了。

不熟悉农作物种植环境的人，问“辣椒种出来这么大吗”，直播间的主播随声附和，“保真保真，所见即所得，是的哈。”

图源：抖音@央视法治在线 下同

结果呢？

真正的樟树港辣椒，植株非常矮小。AI生成的直播带货视频里的辣椒，植株都快一人高了，大到非常夸张。

除此之外，这些视频里农户的手、脚和身体，一不小心就和辣椒融合在了一起。

但现在很多人因为生活在城市，是过去老话讲的“四体不勤五谷不分”，对这种AI生成的有悖农业原理的AI视频，非常难鉴别。

他们真以为农户们辛辛苦苦在没过小腿高的水里，辛勤地种植辣椒，而了解辣椒种植的人会知道，过量的灌溉会直接导致辣椒减产甚至绝产。

新鲜的产品，加上一张辛苦的感情牌，让一些善良却无知的人，为了支持农户也就下了单，上了当。

套路四，是很多人熟知的假靳东套路。通过利用老年人很难辨别AI，来骗取他们的信任，引导他们打赏等。

但现在，这种“假”套路，已经不局限于情感需求。

有老人接到AI“假孙子”打来的电话，说孙子在外地犯事了需要钱。

对方一张口就直接称呼“爷爷奶奶”，一句“奶奶救我”直接击溃了老人的心理防线，于是他们来不及不核实就将钱转了过去，结果上了当。

有人看到这里可能会说，像这些套路我只要转发给爸妈，让他们了解AI是什么，加强防范，不就可以了？

确实，很多老人上当是因为连AI是什么都不知道，稀里糊涂就掉进了骗局里。但可怕的是，坏人反而抓住了老人们渴望了解和学习AI的心理，给他们又量身定制了一个骗局。

也就是套路五，通过免费培训AI，来骗老人——

“AI免费培训，利润分成”，他们通过对老年人贩卖对AI时代到来以及跟不上时代的焦虑，打着免费的旗号，让老人们交1580元的入班保证金，承诺他们后续可以退还，且可以通过剪辑AI相关的视频赚钱，每条至少能赚到20元，每天能赚200元，“学会月入万元不是梦”。

一旦老人们交了钱，加入了所谓的微信群，就会发现收到的链接货不对板。被割韭菜的老年人既学不到技术，按照那些模板剪出来的视频，根本在短视频平台赚不到钱……

一不小心，老人的养老金就成了骗子们的胜利果实。

难道我们就没有任何办法了吗？

其实，每个新技术的诞生，都会存在这些被有心之人利用的风险。

图源：X

说到底，他们利用的也是人们的善良、情感、贪欲。AI这种先进的技术没有错，它也给我们的生活带来了很多好处，错的其实是背后操纵AI做坏事的这些人。

擦亮双眼，小心被骗。

同时，别忘了告诉家人小心这些层出不穷的AI骗局。或许，重视每一位家庭成员的身体和心理，让他们遇事多和子女商量，也很重要。

如果下次跟家里老人团聚，那么，恐怕有一件事必须做一下：
打开他们的手机，看看他们的购物车，看看他们在各平台的浏览记录。

然后，或许你也会很遗憾地发现，科技的进步，带来的并不只生活的便利，同时还有简单事情的复杂化。

而互联网也并没有很好地连接世界，却很好地连接了骗子和单纯的人。

长此以往，人们恐怕只能怀疑一切、保持冷漠、独善其身。

那么，这个世界，会变得怎样？