上海
“你骗了多少人的钱？请如数奉还！太恶劣！”
近日，演员吴越在微博怒斥，有人利用AI技术仿冒其形象和声音，制作虚假广告进行带货。不久，骗子的视频账号被封禁。
说起来，这些年为此苦恼的何止吴越？“演员靳东”“导演饺子”“全红婵哥哥”“刘欢妻子”……打着名人本尊及其家属的高仿号一抓一把，视频下方都挂着卖货链接。随着人工智能技术突飞猛进，图像伪造、口音模仿更加高明，愈发让人“李逵”“李鬼”分不清楚。
据《民法典》，未经权利人同意，擅自使用其形象进行商业推广，可能构成侵犯肖像权。假冒名人或其亲属身份进行带货，导致当事人社会评价降低，也可能构成名誉侵权。在消费者权益保护方面，通过AI仿冒公众人物进行直播带货，在商品与公众人物之间制造虚假关联诱导交易，侵害了消费者知情权，情节严重的还可能触犯虚假广告罪、诈骗罪。《互联网用户账号信息管理规定》等从网络账号注册方式等方面，也对名人高仿号作出了规制。
法律规定相当清晰，为何高仿号仍大行其道？
究其原因，主要是来钱太容易，如今换脸换声工具随处可见，使用门槛、成本投入极低，造假者可迅速实现批量炮制、规模推广。各平台虽在治理，但往往跟不上账号繁殖速度，等到下架禁言，这些人已赚得盆满钵满。恶性循环之下，仿冒名人俨然成一大灰产。
斩断这根利益链条，显然不能只靠明星愤怒对线。当务之急是强化源头治理。一方面，督促平台切实履行内容审核义务，不得借已标注虚构演绎、AI生成、营销、转载、个人观点等内容标签规避网络生态治理相关要求，从根本上阻遏虚假人设类短视频的上传发布。另一方面，细化深度合成内容管理规定，明确商业场景下AI仿冒行为的处罚标准，大幅提高违法成本。说到底，网络空间也是公共文化空间，铲除网络骗子生存的土壤，是我们共同的责任。
技术是把“双刃剑”，应用和管理都是大学问。就当下而言，我们每个人可以做的是，上网冲浪时多一分克制，网络消费时多一分理性，擦亮双眼，才能避免掉进坑里。
原标题：《AI仿冒号，不能光靠“吴越们”对线喊打》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
