上海
奥运冠军、实力演员、央视主持、知名医生……
AI合成技术越来越高的同时，受牵连的名人、遭欺骗的消费者也越来越多。
从最初的“机械化音频”，到现在的真假难辨，曾以为不会被AI欺骗的年轻网友，都有些恍惚，只怕自己也上当受骗。
那么，AI合成诈骗的风气是何时开始，又是怎么“壮大”的呢？这场波及全平台的闹剧，何时才能结束？
虚假带货
自从全红婵成为新星后，围绕在她身边的争议太多了，就连她的至亲都深受牵连，无一例外。
围堵在家门口的、调查航班信息的、扒出过往经历的、现场伸出“咸猪手”的，数不胜数。
开心夺冠的时候，有人骂她像个“白痴”，到了状态下滑的阶段，又有人追着“唱衰”。
最可恨的，当属利用她的形象搞诈骗的无良商家，通过AI手段欺骗善良的中老年消费者。
中老年消费者分不清AI和现实，误以为她家里真的生活困难，不得不帮家里卖农产品。
下单的时候，恐怕还觉得自己帮了她一把，没想到辛苦赚来的钱，落入了无良商家的口袋。
不仅她成了“带货工具”，她的家人也没有逃过被利用的命运，全家人齐上阵当“代言人”。
无良商家借此机会，赚得盆满钵满，所有的骂名，则是由她一人承担，这对她很不公平。
要说最离谱的，还得是同时现身八个直播间的温峥嵘，她虽然也打广告，但是绝不会同时在八个直播间卖货。
这些无良商家仗着平台监管不力，肆无忌惮地将她的形象，放在直播间里，让她无偿帮忙带货，并承担责任。
等她发现的时候，已经来不及了，很多消费者都已经上当，可是损失不能由她来弥补，她也无可奈何。
除了全红婵和温峥嵘之外，还有很多名人深受牵连，其实无良商家采取的套路是一样的，并不算高明，只是中老年消费者弄不明白AI，才会相信虚假广告，毫无戒备地掉入圈套。
平台监管一直不力，相关部门也迟迟没有出手，波及的范围只会越来越广，就连央视在职主持人都成了无良商家的“目标”，再一次印证了“AI风波”有多可怕。
风波不断
与诸多出走的央视女主持不同，李梓萌这些年兢兢业业，从来没有掉过链子。
央视的要求本来就严格，她刚到央视工作的时候，经常读错字，每次都被罚钱。
还有传闻称她“贷款上班”，这是调侃她读错了太多字，实际情况肯定没这么夸张。
作为“女版康辉”，只要她想，一定能在短平台大展拳脚，可她并没有这样做。
只可惜短平台，也没打算放过“安分守己”的她，无良商家竟然打起了她的算盘。
当她的脸出现在直播间时，不少消费者都被蒙骗了，误以为“女版康辉”也开始带货了。
殊不知直播间里她的脸，是从《新闻联播》的画面中“抠”下来的，背景都一模一样。
至于她的声音，则是通过AI合成，漂亮的音色是她的，内容则是商家写的宣传语。
网速快的年轻群体，很容易发现问题所在，虽说口型和声音能对上，但是语气很不自然。
再者说了，《新闻联播》的背景出现在直播间，一眼就能看出是假的，只是老年网友分不清。
每天守在电视机前看《新闻联播》的老年观众，都相信了她是“鱼油代言人”，激情下单。
回过神来才知道，一切都是假的，脸是抠的、图是P的、声音是合成的，嘴型也是AI的。
由于一直没有创建个人账号，平时生活又低调，她一直没办法“有效辟谣”。
帮她澄清的，都是热心的年轻网友，只是举报到处理都需要时间，效率并不高。
再加上平台监管不力，仍由AI合成肆无忌惮地搞虚假宣传，显然应该承担责任。
只可惜“装睡”的平台，谁都叫不醒，AI带来的巨大利益，平台当然不愿意错过。
官方出手
央视主持都成了骗子牟利的工具，官方若是再不出手，恐怕说不过去了。
在警方的全力追查下，制作相关虚假AI带货的团队，直接被“一锅端”。
从策划人员到技术人员，无一幸免，就连涉事的账号，也被直接封禁。
官方出手的效果显著，从那之后，类似的案例极为少见，风口浪尖上，谁都不敢放肆。
无良商家都接受了惩罚，平台也不能不改变，按照官方要求，平台必须仔细甄别内容形式。
但凡发现一丁点AI的痕迹，都要在下方，作出明显的标注，算是给消费者提一个醒。
若是平台已经尽到了监管责任，也标注得很明白了，还有人上当受骗，那就是自己的问题。
与此同时，针对无辜受牵连的名人的网暴，也该停下来了，他们从头到尾都没有参与过诈骗，消费者被骗走的钱，也没有掉入他们的口袋，他们凭什么遭受网暴呢？
那些要求他们赔偿损失的言论，更是不必提了，就算名人的收入高，也不该为平台的错误买单，与其找他们的麻烦，不如跟平台谈谈，如何追回损失，或是稍加弥补。
如今经济大环境并不好，赚钱如此辛苦，更要看好自己的钱包，不能用自己的血汗钱，充实骗子的钱包，还是要仔细甄别，否则吃亏的就是自己。
官方也要继续加大追查力度，平台更要积极配合，提供有效的线索，有可能追回的损失，一定要努力追回来，不能让信任平台的消费者寒了心。
AI本身是对日常生活和工作有利的工具，如今演变成诈骗利器，实在不应该，一次又一次的风波，只会让大众对AI产生戒备，扰乱社会秩序。
既然AI的进化是必然，那就想尽一切办法，打击居心叵测的不良分子，只有监管严了、惩处力度强了，才能震慑住他们，才能还AI创作者一片净土。
参考资料：
IT之家：《北京协和医院专家遭AI换脸带货，虚假科普误导消费者》
封面新闻：《“遏”止谣言：揭开背后三重假面｜2025·印迹》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
