辽宁
10月18日凌晨三点，演员吴越发文：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！！”
这条博文的配图和视频显示，一个叫“花姐美肤日记”的账号发布了多条AI换脸明星带货的视频，其中有视频用AI换脸了吴越，视频中声音和脸都以假乱真的AI吴越正在热情洋溢地推荐使用某款护肤品，该护肤品还被冠上了“明星同款”“吴越推荐”等名头。此外，邓亚萍也被该账号AI盗脸，为该护肤品带货打广告。目前该账号已经搜索不到，疑似已被平台封禁，很难精准统计有多少消费者因为AI吴越、AI邓亚萍的“大力推荐”而下单消费。
如此荒诞的戏码不新鲜了，去年演员温峥嵘曾发出灵魂一问“你是温峥嵘，那我是谁？”温峥嵘刷到了AI温峥嵘正在直播带货，进入直播间询问结果被对方踢出主播间，本尊在“AI替身”面前反倒成了插不上嘴的外人，当时温峥嵘留下了非常意味深长的一句话：“我现在很难证明我是我。”
AI换脸带货偷走的不仅是几个明星的肖像，而是视频电商交易中的信任基座。回想直播带货在互联网上出现之初，这种销售模式的一个巨大优势在于眼见为实，卖家直播展示商品给消费者，主打的就是一个“所见即所得”，明星进入直播间带货也是用自己的信誉为产品背书，吸引消费者下单。然而AI的出现让视频电商面临着前所未有的信任危机，AI能够把任何一张脸打磨得惟妙惟肖，声音也能复刻到以假乱真，普通人一个不小心就会被AI明星的脸忽悠，以为这个产品真的是某位明星的自用推荐款，殊不知这全是商家的套路，最后逼得明星本人出面自证清白。被AI换脸卖货“坑”了的公众人物名单已经是长长一串，大量知名演员、歌手、运动员都在这条长长的受害者名单上。
AI换脸带货已经不是零散偶发的事件，而是一条分工明确的灰色产业链，有人兜售“明星AI素材包”，有人搭建直播间，有人投流引流，造假者只需付出低成本就能用AI盗用明星的肖像、声音为商品引流带货。
用AI盗脸带货这是侵权违法行为，这一点侵权者自己也心知肚明，除了心存侥幸之外，AI明星换脸直播屡禁不止的一个原因恐怕还是因为违法收益远大于被查处的预期成本。这些账号频繁更换“马甲”，采用短时直播，一旦风向不对就注销账号，更换平台，要取证难度大，追查链条很长。小团队分散作案，跨平台异地运营监管要锁定主体也并不容易。在流量、收益的驱动下，总有人不断铤而走险。
封禁此类账号是必须的，但是只封禁账号是远远不够的。首先是要从源头进行管控，从出售AI合成明星素材包的卖家开始查起，当前绝大部分正规的AI工具无法直接通过提示词生成特定公众人物的视频，但还有很多游走在监管边缘或钻了技术漏洞的提示词能够做到这一点，这些漏洞需要尽快堵上。其次是压实平台责任，发现AI换脸带货，断播、封号、冻结收益、跨平台拉黑，一套组合拳得打到痛处。
AI时代，一张脸可以被无限复制、任意嫁接。也正因如此，信任成了这个时代最昂贵的奢侈品。治理AI 换脸，守住的从来不是某个明星的肖像权，而是数字世界里每个人最基本的体面。在花样百出的视频电商、直播带货中，“眼见为实”不能成为一个过时的笑话。
扬子晚报|紫牛新闻记者 沈昭
视频 沈昭
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
