四川
□蒋璟璟
“大家好，我是你们的婵宝，今天把老家的土鸡蛋分享给粉丝们尝尝……”据媒体报道，在互联网上，不少奥运冠军的“声音”突然开始推销农产品，知名演员的“声音”24小时不间断在直播间与粉丝互动……这些以假乱真的AI克隆声音正成为部分自媒体博主的流量密码。利用AI模仿名人声音、形象进行直播带货，并不只有全红婵一个人“中招”，奥运冠军孙颖莎和王楚钦等也遭遇了同样的仿冒。（央视）
现如今，数字克隆人大体已经能够做到以假乱真，其对于面部表情、声音语调的仿拟还原度，较之上一阶段，又有了不小的进展。而与此同时，“AI克隆”相关操作的技术门槛、经济成本，却在大幅走低。理论上，利用免费的网络教程和开源软件，就能做出个大差不差的数字克隆人。置于这种大背景下，所谓“奥运冠军”带货土鸡蛋之类的骗局频发，也就不足为奇了。尽管当事人此前已专门澄清，可架不住一些偶然刷到“伪视频”的网友们，依旧不明就里地激情下单。
梳理这些案例，我们发现，此类AI数字克隆人圈套，与以往的“假冒名人”骗局，有着一个显著区别。那就是，账号名并没有仿冒，发布的视频作品中，“克隆人”才出镜带货。比如说，发布假全红婵卖鸡蛋视频的账号叫“我是小助理吖”，而发布假王楚钦、假孙颖莎卖货视频的账号叫“小兔真可爱”——这种操作手法，绕过了平台原有的“名人信息保护机制”。那套拦截“高仿号”的过滤机制，并不足以在前端拦下这种内中夹带式的“克隆人”，这带来了新的课题。
发布奥运冠军AI克隆人的诈骗账号，还有两个共性特点，一个是其“粉丝量”基本都很低，另一个其“发布作品”一般都是深夜档。由此，就牵出了一个更关键的追问：它们是怎么到达目标受众、是怎么转化为下单行为的？是因为加上了“全红婵”“王楚钦”“孙颖莎”的标签而被系统加权推荐，又或是使用了付费投流服务？厘清了其“突防”的手法，平台自然也就能针对性补漏，彻底斩断其传播链条了。
此类账号很多都是“打一枪换个马甲”，游击性、隐蔽性极强。当下，比较可行的治理思路，其实是要瓦解此类AI克隆人账号的变现路径和商业价值，无利可图自然也就无人愿做了。现实中，此类账号要想被算法推荐，必然是要加上名人标签的。据此，很自然就启发了一个优化算法拦截的思路。对于新注册的、发布作品很少的、打上特定文体明星标签、深夜活跃的账号，不妨限制或延迟其挂小黄车、购物链接。待完成必要的人工监看和复审流程后，再予以分类处置。
于很多人而言，对AI克隆人根本傻傻分不清。这就要求平台强化审核责任，通过局部的算法优化，来实现对克隆人视频账号的断链和去商业化。目前来看，这并不是一件多难的事。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
