监管部门提醒素人照或被抓取用于AI广告！南都多次调查乱象

10月8日，北京市市场监督管理局发文称，伴随数字人主播等技术普及，有些商家利用AI技术进行虚假宣传、误导消费。该局提醒消费者“虚拟形象不等于真人代言”，此外，部分不法分子会违规抓取大家日常在社交平台分享的自拍、生活视频、语音内容，通过AI工具生成虚拟形象、复刻个人声音，擅自用于商业广告、直播带货等营利场景。

南都N视频此前持续推出《虚拟艺人灰产调查》《虚拟角色资产库侵权乱象》《AI声音克隆乱象调查》等，起底仅凭产品图即生成虚拟人“体验”视频、虚拟艺人“带货”阳痿处方药等灰产链条；揭露“角色资产库”名义下存在的低价授权、普通素人被“盗脸”“融脸”等侵权交易乱象；曝光AI魔性侵权背后产业链。

南都此前调查。

官方提醒虚拟形象不等于真人代言

刷视频、逛直播间时，不少消费者会发现，主播颜值超高、产品测评图文完美无瑕、甚至久未露面的明星突然“空降”带货，画面精致、话术流畅。

10月8日，北京市市场监督管理局发文表示，这些看似完美的广告，并不是真人实拍、真实测评，而是AI生成。随着数字人主播、AI绘图修图普及，有些商家利用AI技术钻空子，进行虚假宣传、误导大家消费。

北京市市场监督管理局提醒，无标注的AI广告，大概率不合规。按照《人工智能生成合成内容标识办法》规定，所有AI合成、AI生成的图片、视频、音频、文字素材，必须在显眼位置标注“AI生成”“AI合成”，让消费者清晰知晓内容来源。

直播间、短视频里的数字人、虚拟主播带货，正规推广都会明确标注“AI虚拟人”“数字人”字样。该局同时提醒，虚拟形象不等于真人代言，没有明确身份标注的AI带货内容，一定多留个心眼，不要盲目相信。

同时，AI生成不等于真实效果。北京市市场监督管理局强调，很多广告里天花乱坠的超高销量、清一色好评、真实用户案例、权威检测报告、专家推荐语录，有可能是AI凭空捏造的。这就是业内常说的“AI幻觉”。不少商家就利用这一特点，用AI批量捏造好评、测评、检测报告等内容，属于虚假宣传。

南都N视频此前推出《虚拟艺人灰产调查：以图生成假体验视频，软植入产品含处方药》，有虚拟艺人运营方声称，“无需寄送样品，只要发来产品图片，就能让虚拟偶像‘亲身’使用美容仪并做出宣传片”。此外，有MCN机构明知平台明令禁止AI数字人展示产品使用效果，但仍引导脱离平台“水下交易”。

有虚拟艺人的MCN机构通过账号“明明是AI呀”发布视频，“软植入”治疗男性勃起功能障碍的处方药“艾时达口溶膜”。报道发布之后，南都记者检索发现，相关视频已不可见。9月3日，平台页面显示该账号已被重点监控，“平台将持续重点关注，一经核实将从严处理。”

不法分子会违规抓取素人生活照

北京市场监督管理局表示，除了数字人主播和AI生成文案，另一种AI广告套路，是AI换脸与声音克隆。市面上部分商家利用AI换脸技术，将明星形象用于“三无产品”的宣传，且未获得明星本人授权，涉嫌虚假宣传。

“遇到名人带货、专家推介，发现画面僵硬、表情不自然、口型对不上，大概率就是AI合成的。” 北京市场监督管理局提醒消费者可先联系店铺客服，核实是否有官方授权，确认无误后再消费。

南都记者留意到，北京市场监督管理局还强调，随着AI技术普及，部分不法分子会违规抓取大家日常在社交平台分享的自拍、生活视频、语音内容，涉及肖像、声音等个人敏感信息素材，通过AI工具生成虚拟形象、复刻个人声音，擅自用于商业广告、直播带货等营利场景。

“这种侵权行为隐蔽性较高，很多人往往难以察觉。因此，大家应提高基础防范意识，才能降低被侵权风险。”该局提醒，普通人的肖像权、声音权益受法律严格保护。如果发现自己的面容、声音被他人擅自用于商业宣传、带货牟利，完全可以依法维护自身合法权益，要求对方停止侵权，并索要赔偿。

南都此前报道。

南都N视频此前推出《当“脸”成为一门生意：虚拟角色资产库背后的侵权交易乱象》，聚焦买卖“脸”的侵权乱象。在二手平台上，大量短剧角色资产被公开交易，19.8元可买到近500个“现代人物资产”，商家声称“没有版权限制，纯手搓的”。但进一步交流后其透露，导入AI平台“融脸”的原素材竟全部来自社交平台的普通网友真人照片。

该商家告诉南都记者，“去海外社交平台搜华人、美女、穿搭等关键词就行”，如此“盗图”完全跳过肖像授权等环节。对方发来的示例图中可以看到，这些角色资产的原图就是来自短视频平台上女网友直播时的截图。

此外，AI仿声、声音克隆等技术滥用也愈演愈烈。南都N视频曾推出《AI声音克隆乱象调查：上传3秒即可改词，每50字不到1元》，起底背后产业链，在AI创作平台上，只需上传3秒原声便能克隆音色并任意改词。

采写：南都N视频记者 林诗妍