成本1元的假视频让全网围观！当科技开始撒谎，人要学会清醒

作者 | 陈振

来源 | 财经八卦（ID：caijingbagua）

引言：我们都在同一张脸上打补丁，但补丁会变成陷阱。

这个时代的荒诞，总是从一句“我就试试”开始。

最近，安徽一个女子闲来无事，想“测试”一下丈夫的反应。她用AI整出一张逼真的照片——家里多了个陌生的流浪汉，坐在客厅里，表情阴郁、光影真实，乍一看和真的一模一样。她发给丈夫，本想看看他慌不慌。

结果——慌的不是丈夫，是整个派出所。男人直接报警求助，警车嗷嗷赶到家门口，最后发现所谓“流浪汉”，只存在于照片里。

这场从客厅到派出所的乌龙剧，一夜之间冲上视频号热搜。有人笑着评论“夫妻信任危机”，也有人冷静指出：“你以为是玩笑，下次可能是诈骗。”

更离谱的是，这种事已经不是第一次。

有男人伪造“女儿被拐”的视频博取流量，被拘；有骗子用“换脸+拟音”骗走公司几百万；有女孩发现自己“出演了”根本没拍过的不雅视频；甚至还有人做出“假火灾现场”“假求救直播”，专门骗同情。

我们正活在一个真假难辨的时代。信息像洪水一样涌来，但真相越来越贵。

一个按钮，就能生成一场“灾难”；一张图，就能掀起一场恐慌。

没人能预料，下一次，假象会砸到谁头上。

造假成本一块钱

信任代价是整个社会

这年头，真相越来越贵，假货越来越便宜。

过去造谣要成本，要人演戏、要剪视频、要摆场景。现在不用了，只要上传一张脸、点两下按钮，就能在几十秒内生成“你从没做过的事”。

更离谱的是，这种服务在一些平台上打擦边球，卖价低至一元钱。是的，一块钱，比一瓶矿泉水还便宜。有平台明码标价：换脸：0.8元/秒；合成语音：1元/秒；“安装包”：19.9元开通随便玩。

于是，造假开始“平民化”。

明星被P上假视频；老板被合成假语音；普通人也可能被拿去拼成“热点素材”。有网友晒出教程：“输入照片、选场景、换脸。”

所以，这门生意的本质是——“造假简单化”。以前造谣需要专业，现在人人都能动手。

曾经以为AI是还没成熟的科技玩笑，如今对方可能已经拿它做了生意。有人靠造虚假八卦号赚点击，有人靠伪造受害视频博同情，还有人更狠，直接拿换脸视频敲诈勒索。

“新科技”兴起了一堆暴发户，可被害者的命运却是无处申冤。

更夸张的是，假事件传播速度远超真相传播速度。你澄清十次，人家转发一次“真的假的”，就够让真相埋了。

一个小玩笑能惊动派出所，一场谣言能引爆一座城市。可最扎心的原因不过是——成本太低。

恶意的起点只是一块钱，而被破坏的是别人半生的信任。这不是科技带来的魔法，这是人心滑向的深渊。

当“真”成了奢侈品，谎言的成本几乎为零。这才是比“用假流浪汉骗老公”更值得警惕的事。

技术异化的时代

从“工具人”到“被工具”

本来，这些AI技术的初衷很单纯——让人们更方便创作、更高效办公、更轻松表达、更温情表达爱。

但如今，它正在悄悄反噬创造它的人。

一开始，人们把它当玩具。有人拿来整蛊、娱乐、试探情感，这都还不算大事。

可当“玩笑”多了，就不再是玩笑。比如那位安徽女子，她或许只是想逗丈夫，却没意识到——在这个真假混乱的时代，一个假图，可能比真相更快地触发社会反应。

警察、邻居、媒体，全都卷入其中，最后变成一场全网的笑话。

类似的事频繁发生，今年六月，北京海淀查处了一起全国首例滥用AI技术生成的“假名人代言案”。

一家食品公司，把央视知名主持人李梓萌的视频剪开重组，塞进自编口播：“我每天都吃这款深海鱼油，头晕手麻都好了。”

画面清晰、语音自然、语气、真诚，足以让中老年观众信以为真。短短几天，视频播放量超过万。

最终这家公司被查封，主持人方面也愤怒声明：那不是本人说的。

故事听起来像段子，但现实远比段子狠。

因为那段视频用的所谓“换脸”技术成本不到十元，甚至只要简单地输入人物照片、上传几秒原声，就能生成一段以假乱真的“代言视频”。

过去骗子要请演员、写剧本、录视频；现在一个人在家敲几下键盘，就能伪造一个你最信任的“官方形象”。

这便是异化的可怕之处：技术开始支配人的行为。

你想表达爱，它却放大猜疑；你想博人一笑，它却制造恐慌；你以为掌控它，结果自己成了它的素材库。

有意思的是，人类的恐惧往往姗姗来迟。

之前，假照片第一次出现在朋友圈，人们惊叹“太逼真了”；而现在，假语音第一次骗走存款，人们才开始后悔“太相信了”；当假视频第一次毁掉一个女孩的名誉，人们才终于明白——我们真的需要防护。

技术没有错，但人有弱点。它放大了人性的好奇、贪婪、窥私与报复。

而当这种“低门槛魔法”落入无底线之手，现实就变成了一场大型“真·整蛊秀”。

造谣的速度

已经超过真相的反应力

在QQ爆火的年代，网络谣言靠文字；而在自媒体泛滥的年代，网络谣言靠影像。

有研究者做过实验：同一条假消息，用AI生成图片、视频传播，比其他口头语言、文字谣言的转发速度还要快。因为视频太逼真了，甚至连新闻机构都一度信以为真。

人类大脑天生信任视觉，“看见”几乎等于“相信”。于是，当影像开始说谎，信任也开始崩塌。

人们开始怀疑视频证据，怀疑明星道歉，甚至怀疑身边人。“这段录音是真的吗？”、“他真的说过这话吗？”、“那真的是她本人拍的吗？”这些原本属于侦探小说的问题，已经进入日常对话。

而当怀疑成为常态，社会也变得疲惫。

值得一提的是，AI换脸的第一个明显受害群体，是女性。被换脸的不雅视频不再只是个别侵害，而是成长为一条灰色产业链：把某名博主、某个普通女性按粉丝量级分级定价，输出“私人订制”色情视频，收会员费、卖下载权限、开打赏群。

受害者不仅失去名誉，还要承受电话骚扰、人肉骚扰、职业影响甚至生命风险。

这类“黄谣产业”有两个恶劣特点：“可复制可规模化”——只要有一张清晰脸盘，可能生成无数版本；“按需定制”——买家可以提出台词、场景、甚至“私人剧情”。

当羞耻被商品化时，受害者的权利被系统性侵蚀：不是一次被侵犯，而是被无限次“再利用”。

一方面，我们害怕被骗，于是对任何“真相”都保持怀疑；另一方面，我们又太容易被刺激的影像打动，于是仍旧会被骗。

而当所有人都开始怀疑，真正的受害者反而更难发声。

造谣者一句“开玩笑的”，轻飘飘；但被害人要花几个月、甚至几年去澄清、起诉、恢复。

科技带来了速度，但也削弱了真相的耐心。

这就是最悲哀的地方——我们活在最智能的时代，却变成最不敢信的时代。我们不再相信“真”，却被“假”操控。

监管在追

公众得学会“带脑子”生活了

AI从来都不是原罪，滥用才是。

就像刀子本来是切菜的，现在却有人拿它去“拍小众引流视频”；AI本来是帮人创作、剪片、修图的，如今却被用来骗人、造谣、炒流量。

其实，相关部门早就注意到这股“造假风”。

今年以来，“清朗专项行动”已经启动，重点整治伪造人像、合成色情、虚假信息传播等行为。各大平台也推出了“AI生成内容识别系统”，并计划强制标注AI作品来源。

但这些措施就像修水坝——上游的水越来越多，下游的人游得越来越累。

技术在疯长，监管在补课，而用户，还在“哈哈哈，好玩”地转发。

法律其实已经给出了答案。《治安管理处罚法》规定，编造谎报警情可拘留罚款；刑法中的“编造、故意传播虚假信息罪”可判三到七年。

可现实中，大多数人并非故意违法，只是没意识到：“我以为是玩笑”，法律并不觉得好笑。归根结底，最有效的防线，是人自己。

——看到“惊天大瓜”，先别信；

——遇到“哭着求助”的AI语音，先核实；

——想“用AI逗一下对象”，先想想值不值。

技术越聪明，人就越要有脑子。

最重要的是，不要做那个“传播起点”的人。别为了图一乐、赚点赞、秀智商，就把假消息传下去。

一次点击，也许就是一场恐慌的导火线。

我们正在进入一个“真假共生”的时代。

技术可以造出最完美的假象，也可以修复最真实的真相。关键不在于技术，而在于人。

当妻子用生成图“测试”丈夫，当诈骗犯用换脸骗走几百万，当黄谣视频毁掉无辜者的人生——这一切背后都在说明：我们太容易相信了，也太容易利用信任去试探别人。

AI并不可怕，可怕的是人心的浮躁。

当我们开始拿谎言当玩笑、拿虚构当手段、拿技术当掩护，这个时代最昂贵的东西，不是算力，而是信任。

或许未来的生活，会越来越“真假难辨”。

那就更需要我们在点“生成”的时候，想一想：——这张脸，这段话，这个视频，真的该存在吗？

世界可以被伪造，但人，得保持清醒。技术的尽头，不是智能，而是良知。

对此，您怎么看？欢迎在评论区留言讨论，发表您的意见或者看法，谢谢。