北京
近日，演员吴越公开发声，怒斥视频号“花姐美肤日记”利用AI换脸、语音克隆技术，盗用其肖像与声音带货推销。同一账号还制作了邓亚萍出镜的AI带货视频。无独有偶，10月19日山姆会员商店发布声明称，多个社交媒体平台近期集中出现数千条针对山姆的恶意攻击及虚假营销信息，部分账号通过AI生成、拼接素材、伪造采访等方式，将从未在山姆上架的洗护、保健品、食品等商品，编造成“山姆下架好物”进行欺骗性营销、引流牟利。
几起事件，手法如出一辙：用AI批量生产“可信感”，借他人信用为自己背书，最终把流量导向欺骗性交易。
这已经不是简单的“擦边营销”，其背后是一条成熟的产业链：技术开发、素材收集、账号运营、流量变现，环环相扣。不少网友真假难辨，极易被欺骗。消费者刷到一张熟悉的脸、听到一个熟悉的声音，很难第一时间想到“这可能是假的”；等到下单、转账、被引流到私域，骗局已经完成闭环。
更值得警惕的是，这类行为侵害的远不止消费者——公众人物的肖像权、声音权益，企业的名誉和信用，都成了黑产免费使用的“道具”。而维权的一方往往还要想着自证“我没说过”“我没卖过”，成本高、周期长，骗子却可以换个账号、换张脸继续开工。
平台的责任无法回避。账号能被搜索到、视频能被反复推送，说明识别和拦截机制仍有漏洞。选择固定证据、向平台及监管部门投诉举报，作为受害者维权的考虑，是必要之举。但个案举报之外，更需要平台对批量投放、拼接配音、伪造采访类内容建立常态化的识别与处置机制，对导流站外交易的行为重点监控。不能等当事人发声、企业声明之后才去“无法搜索”。
在处置个案的同时，监管部门还应顺藤摸瓜，追根溯源，打掉深度伪造工具的售卖渠道、斩断个人肖像声音素材的非法来源。在法律法规、平台规则执行的层面，也要压实账号管理者和产品商家责任，追查货源与宣传主体，堵住资金结算漏洞，让黑色产业链上的每个参与者都承担相应法律责任。
当AI深度合成愈发逼真，治理的速度和力度，必须跑在造假者前边。吴越要的是“如数奉还”，山姆要的是干净的经营环境，消费者要的是不被假象欺骗。让来源可追溯、内容可识别、责任可追究，造假链条上每一个参与者都付出看得见的代价，才能还网络消费空间一片清朗。
来源：金台岩/人民网
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
