上海
俗话说，科技的发展没有善恶，但用的人却有道德差异，比如AI技术，这一本好经，让我们看到了新一轮的技术革命，也让我们看到了道德的极限滑坡。
一方面，它正在刷新着人类文明的新高度，而另一方面，有些念经的和尚心歪了，他们正在疯狂地利用AI技术，刷新着人类道德的新下限。
短短几年时间，生成式AI已经把信息世界搅得天翻地覆了，甚至可以说信息世界，正在进入一个史无前例的混沌状态。
网友们每天刷的视频、新闻，到底哪些是真的，哪些是AI生成的，已经越来越难辨别了！
也正是这种鱼龙混杂，让人类对于信息的接收、处理进入异常的高难度时代，成为互联网时代一场新的灾难。
当然，如果只是简单的信息造假也就罢了，其更大的副作用是，正在扰乱社会的秩序，甚至谋财害命的事，每天都在上演。
比如如今黑公关猖獗的汽车圈，有人为了攻击一些车企，疯狂地在网络上伪造车祸事故，影响品牌的正常经营。
当然，直接伪造车祸也就算了，甚至一些人通过所谓的GEO手段优化AI搜索结果，对相关事件进行移花接木，甚至进行虚假宣传。
比如在小柴仅需千元就能定制搜索结果，AI已经被植入广告玩坏了……稿件中的案例，一品牌的车祸事故，在AI这里，竟然毫无违和感的嫁祸到了另一品牌身上。
类似的还有，一些商家为了诱骗顾客进店，通过GEO手段干扰AI结果，将自己的品牌植入AI，并且明目张胆的在店门口竖起牌子。
而在文字和图片之外，如今的AI视频，也开始进入真假难辨的时代，在一些短视频平台，各类以假乱真的AI视频，正在疯狂洗脑中老年群体。
而通过这些虚假视频，他们疯狂地销售各种假药、保健品、假古董，收割老年人们的养老钱。
视频之外，盗用名人肖像的AI数字人，也是疯狂地骗取用户信任，进行虚假伪劣产品带货，比如之前多位多名演员、主持人的肖像被冒用，在直播间，她身着不同服装推广着不同的产品。
比如央视主持人李梓萌被仿冒，在短视频的平台卖有药效的保健品，吸粉八十多万。
类似的还有，他们还冒用知名医生的形象，网络坐诊，替人“看病”，然后给病人推荐高价假药，不仅谋财，还害命！
还有更恐怖的电诈，如今也是借助AI，正在无懈可击的渗透在网络的角角落落。
自然，除了上述谋财的，AI被用到歪路上的事，也是越来越离谱，比如，前段时间引起巨大争议的用AI生图仅退款事件。
比如有人想吃桃子，但又不想付钱怎么办？只需要三步，在网上下单，收到货后，拍照找，然后找AI生成烂桃子的照片或者视频，发给商家，并投诉商家就行了。
口红没了没钱买怎么办？办法也一样。
而就是这样的方式，一大批的商家被薅哭了，还有大量的商家，甚至直接关门。
而这还不算离谱，就比如今天关于AI造假，有两个话题冲上热搜，一个是，有人用AI伪造证据当起诉材料，另一个是，有人用AI生图，拿到了摄影比赛一等奖。
我们一一来看，先来第一个热搜，大概是福建省旅游发展集团主办了一场摄影大赛，最近大赛结果出来了，拿到一等奖的是下面这张图。
然而，这张图放大后是什么样的呢？树叶纹理过度平滑、建筑轮廓扭曲失真，多扇窗户轮廓歪斜变形，墙面文字清晰但无法辨识，均符合AI生成的典型缺陷。
然而就是这么一张图，经过专家的评审，竟然成了一等奖，随后该事件引发热议。
随后，主办方回应，公示期收到质疑，但称“暂无法明确答复是否为AI制作”，仅表示将按规则处理，同时拒绝透露评委身份。
而另一个热搜是，一女子租了一套房，租期届满后，该女子拖欠后半年租金及1110元水电费，没办法，房东就把这女子起诉了。
然而庭审中，房东方未能提供租客欠缴水电费的有效凭证，某系该房屋首位租客，所有水电费均由其产生，并承诺庭后补交租期前后水电表照片作为佐证。
但当水电表的照片提交上去后，连法官都傻眼了！因为这张照片长下面这样：右下角醒目的标注着“豆包AI生成”。
这真是好家伙！这连威严的法律都想这么低成本的进行糊弄，小柴又是长见识的一天，咱好歹某宝上找个PS高手，认真一点不是？
进一步核查发现，房东关于水电表使用情况的陈述前后矛盾：起初声称水电表为单独使用，后在追问下改口承认房屋为“一梯两户”，两户共用同一水电表。面对法官质询，董某无法自圆其说，最终承认伪造证据。
法院认定利用AI生成照片作伪证构成"伪造重要证据"，违反《民事诉讼法》第114条，涉嫌妨害诉讼秩序，依法可处训诫、罚款、拘留，甚至追究刑事责任。
不过，这起案件中，鉴于董某主动坦白并纠正错误，法院以"惩教结合"原则对其训诫，但驳回索要水电费的诉讼请求（证据不足）。伪造证据不予采信，案件将依真实证据裁判。
但话又说回来，如果这张照片，当时房东截掉了AI水印，这个租客是不是要承受不白之冤，还要多付钱呢？
而显然，这个案例，也对司法提出了更高的要求，以后的证据材料，或许法官很难再用肉眼去辨别真假，而是要元数据分析等手段甄别，但目前来说技术验真体系尚未完善。
而这一桩桩、一件件案例，无不在诉说着，如今AI技术的应用，似乎到了不管不行的地步，比如如何形成完整的AI内容的生成、分发、使用生态，成了维护社会秩序正常的关键。
不然，这世界得乱成什么样子……毕竟现在看来，AI让普通人的造假门槛，已经变得无限低了。
而更细思极恐的是，如今这种AI造假，已经到了近乎失控，从信息造假，到虚假宣传，再到诈骗，甚至如今连司法也开始被AI干扰，再这么下去，AI改变世界还没来，AI颠疯世界要先至了……
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
