北京
分享至
演员吴越凌晨发文，直指账号"Sister Hua's Skincare Diary"用AI换脸和声音克隆冒充她做直播带货，措辞是"太恶劣"。最新进展是，微信已对该账号作出永久封禁处理。
这件事的争议点不在"像不像"。换脸加声音克隆，拼出来的是一个能开口说话、能对着镜头推销的"吴越"，观众看到的不是一张静态图，而是一场看起来正常的直播。真人在凌晨发声，假人却在镜头前卖货，时间差本身就构成冲突。
正方会说，平台反应够快，永久封禁已经是顶格处理，说明治理链条在运转。反方则盯着另一个问题：账号是事后被封的，冒充内容已经播出，被误导的下单行为发生在封禁之前。封号解决的是"这个号"，不是"这类号"。
我的判断偏后者。AI生成假代言的门槛已经低到不需要技术团队，换脸和声音克隆两件工具叠起来，就能批量生产"明星直播间"。平台封一个，成本几乎为零的下一批可以换个名字再来。治理的难点从来不是识别单个账号，而是识别速度能不能追上生成速度。
对普通用户来说，这次事件给出的信号很直接：镜头里那张熟悉的脸，已经不能单独作为信任依据。至于平台侧怎么把审核前置到开播之前，目前公开的信息里，只有"永久封禁"这一个结果。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
