演员吴越怒斥AI“魔改”其形象带货，涉事账号被永久封禁

近日，演员吴越通过公开渠道发声，直指有人利用AI技术“魔改”其本人影像、声音，制作仿冒带货视频，相关事件引起广泛关注。

10月18日凌晨，吴越发文怒斥：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位'花姐'你骗了多少人的钱？请如数奉还！太恶劣！！！”

10月19日，界面新闻在微信中搜索相关视频账号，发现已经无法搜索到。据媒体报道，目前账号已被永久封禁，内容清空不可见。

据了解，在此前发布的视频中，“吴越”拎着一款精华液出场，并称“这个产品不是他们找我，是我找他们的，因为我看了一些视频，我觉得有没有这么夸张啊，但是当我收到之后，效果是真的非常直观。”

从普通用户的视角看，这些视频几可乱真：AI技术将吴越过往的公开影像素材进行深度合成，通过调整口型、替换台词、复刻声线，制造出她亲自推荐商品的带货场景。画面细节、语气节奏都达到极高仿真度，仅凭肉眼很难第一时间识别出内容为AI生成。

近年来，利用AI深度合成技术伪造名人形象、替换面容与声音的视频频频出现。此前，演员温峥嵘也曾自曝刷到AI盗播自己的直播间，上前质问竟被秒拉黑。温峥嵘在采访中表示，“早在4月份之前，就说我出现在多个直播间，同一时段，妆发不同，不同的产品，说着同样的话。”

霍启刚也曾在个人社交账号上发文，称自己的形象遭到AI盗用。“他们提取了我的声线、利用我的样貌生成短视频，但是里面的内容完全不是我的观点，连我同事都说看了一段时间才发现原来是AI生成的，这样的信息实在是误导观众。”

靳东也遭遇AI换脸侵害，他的形象被不法分子仿冒后，专门用于针对中老年群体实施诈骗，让人防不胜防。靳东直言，“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”

名人仿冒视频层出不穷，监管层面也已出手。今年9月底，中央网信办印发通知，在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动。专项行动整治重点就包括通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为。网信部门督促网站平台切实履行内容审核义务，不得借已标注虚构演绎、AI生成、营销、转载、个人观点等内容标签及无不良导向声明规避网络生态治理相关要求，从源头阻遏虚假人设类短视频的上传发布。

司法层面，最高人民法院发布关于依法审理涉人工智能（AI）纠纷案件的意见，进一步明确司法裁判规则，释放坚持发展和安全并重的鲜明信号，促推人工智能健康有序发展。

事实上，各大平台近半年来已陆续升级AI内容治理措施。今年3月，微信视频号曾发布关于加强AI生成内容治理的公告表示，平台已建立针对AI生成合成内容的常态化管控机制，对疑似AI生成合成内容添加标识提示，方便用户清晰辨识。

近期，抖音上线两项核心功能：一是AI内容标识功能，协助创作者主动打标；二是AI内容元数据标识读写功能，可识别并写入AI内容元数据信息，为内容溯源提供技术支撑。

快手已上线AI生成合成内容标识和用户主动声明功能，在平台AI生成内容中添加“AI生成”显式标识及嵌入文件元数据的隐式标识，并对疑似AI内容进行显著提示。