北京
"双11"临近，随着各类直播间预售活动陆续开启，AI仿冒真人带货格外需要警惕。
近日，演员吴越在微博怒斥，有人利用AI技术仿冒其形象和声音，制作虚假广告进行带货。舆论发酵之后，该账号被平台永久封禁。
"吴越"很多。"演员靳东""冠军邓亚萍""刘欢妻子"……近年来，仿冒名人带货的案例一波未平一波又起，以假乱真的程度不断升级。
在演员吴越投诉的视频中，高度还原了吴越的音色与语调，让不少消费者信以为真。
换脸换声之外，这些视频还被大量灌入"这个产品不是他们找我，是我找他们""孕妇妈妈都能用，闭着眼睛囤"等诱导性话术。
而相比大张旗鼓造假，有效提示则被置于角落。通常情况下，没被明星曝光前，这类账号只在角落添加一条极小的"含AI生成内容"提示。
小字并非有心提醒，更像预先准备好的挡箭牌。面对当事人及消费者质疑，角落里的提示就会派上用场，成为规避责任的说辞。
AI仿冒之所以屡禁难止，技术手段的成全固然重要，更要警惕背后已经跑通的灰色链条。扒素材、换脸克隆声音、套模板文案、挂上小黄车，高收益低成本是最显著的特征。
AI使用门槛、成本投入极低，造假者可迅速实现批量炮制、规模推广，造假账号靠热点明星吃流量，一条视频火速收割，商品链接分分钟变现。
与此同时，一旦账号被投诉，平台封号只是关掉其中一个违规账号，只要溯源追责没有跟上，一个违规账号倒下，还会有别的账号冒出来接着干。
批量起号，仅靠"真人"喊话自然微乎其微。仿冒名人灰产之下，唯有平台严审、违法严惩才能从源头打假。
权力越大，责任越大。平台手握审核和流量分发的权力，不能总是事后才现身。
事前介入尤为重要，"AI生成"并不是免责标签，要防止借已标注虚构演绎、AI生成等内容标签钻空子，规避网络生态治理相关要求。平台对于此类情况的甄别处理更要从严从紧，注册、发布、挂车等每一个环节都不能偷懒。
从监管层面看，细化深度合成内容管理规定，提高违法成本刻不容缓。在涉及消费者利益的商业场景下，AI仿冒行为的界定及处罚标准务必抬高，才能形成足够的威慑力。
技术进步不背违法滥用的锅。直播电商成为AI应用的重要场景，但技术如何使用、用在何处，则需要建立一整套囊括各方的规则、制度及治理体系。
北京商报评论员 陶凤
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
