湖南
凌晨两点，演员吴越发了一条微博。
没有铺垫，没有客套，直接点名一个叫“花姐”的账号，用AI伪造她的脸和声音在直播间卖护肤品。
吴越的原话很克制，但字字扎心：骗了多少钱，请如数奉还。
更离谱的还有，音乐家刘欢刚离世没多久，多个平台就冒出了AI合成的“刘欢妻儿”，声泪俱下地推销保健品。
人走了，尸骨未寒，骗子就拿着AI合成的脸，打着家属的旗号出来圈钱。
几十元克隆一个人，黑产门槛低到你不敢想，
很多人以为AI换脸是什么高科技，得有专业团队、顶级设备才能干。
其实大错特错。
据第一财经日报报道，现在黑产用的工具几十块钱就能克隆一个人的声音，一千块钱就能定制一场明星直播。
你点顿外卖的钱，就能造出一个一模一样的人在屏幕上替你说话、替你卖货。
而且这帮人特别鸡贼，专挑凌晨发布，打时间差；用对抗性技术绕过平台检测，前面删了后面又冒出来。整个链条分工明确，有人负责搞素材、有人负责做合成、有人负责投流、有人负责发货售后，跟正规公司似的。
他们的这些流量收割是那些辨别能力弱的中老年人。
你爸妈刷到董宇辉推荐保健品，李梓萌代言护肤品，全红婵在直播间喊家人们，他们信不信？大概率信。因为这些人是他们信任的公众人物，脸是真的、声音是真的，他们哪知道这是AI拼出来的？
等钱付了、货收到了，发现是三无劣质产品，再去找人，直播间没了，账号注销了。
退一赔三，这次法律是真的亮剑了。
利用AI仿冒名人带货，构成欺诈的，法院依法支持消费者主张惩罚性赔偿，也就是退一赔三。
网信部门专项行动累计处置了1.1万多个仿冒公众人物的违规账号，清理了几千条违规信息。
北京市场监管部门更是直接查处了全国首例AI虚假广告案，那个仿冒央视主持人李梓萌带货的企业被罚了20万。
AI本身没有错，换脸技术、语音合成，用在影视制作、无障碍服务上都是好东西。
错的是拿它来骗人的人。
但有一个问题必须要问问：这些假视频是怎么上的线？怎么通过的审核？怎么拿到的流量推荐？
平台不能只在出事以后删帖封号，凌晨发布、对抗检测这些套路，平台比谁都清楚，技术上也不是识别不了，关键是愿不愿意下本钱去治。
毕竟，每一条假视频背后都是真金白银的流量和抽成。
如果平台一边喊着打击AI造假，一边对凌晨冒出来的高仿号睁一只眼闭一只眼，那消费者的损失平台也该担一份。
吴越的那条微博不只是一个演员在维权。她是在替所有被AI冒名的人说话，温峥嵘、董宇辉、全红婵、李梓萌，还有那些没来得及发声的普通人。
AI造假这股歪风再不刹住，今天是明星被换脸带货，明天就可能是你我的声音被拿去诈骗。
退一赔三是个好开始，但远远不够。别让技术的进步，变成骗子的狂欢。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
