四川
封面新闻记者 郝莹 雷蕴含 石伟
近日，名为“婵宝小助理”“全妹福利号”等多个账号，使用全红婵赛后接受采访和家人直播的画面，用AI合成相应的声音，在社交平台发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等话题吸引观众，博取流量。
视频里呈现全红婵受访的画面，内容却被AI篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等商品，并推荐观看者点击商品链接购买。评论区有用户被合成视频欺骗，表示“支持全红婵，值得购买。”
社交媒体上的合成视频带货截图
4月29日，全红婵父亲告诉封面新闻记者，有人用AI伪造一家人声音卖蜂蜜，他们也没有办法。“帮我辟谣一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。”
现象：
多名公众人物被“AI假冒”，刘晓庆问“怎么做到的？”
社交平台多则视频显示，全红婵并非“AI造假”唯一的受害者，此前已有多位明星、专家学者被AI生成视频假冒带货。
3月3日，四川籍著名演员刘晓庆在微博回应网友反馈。该网友表示，微信视频号内，有许多AI生成的视频在假冒她。
刘晓庆转发回应：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”
知名医生“张文宏”被AI合成视频假冒售卖蛋白棒。网友发布的截图显示，该蛋白棒产品已售出了1266份。事后，张文宏告诉央视记者，这样的卖货账号不止一个，而且一直在变，他已多次向平台投诉。
小米CEO雷军也是热门“AI对象”，视频画面中的雷军或带货，或恶搞，还就各类热门话题发表评论。
据九派新闻，4月18日，女星张馨予在社交平台发文，称有商家利用AI技术复制其声音售卖减肥药，引发关注。
张馨予表示：“近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用AI技术非法剪辑投放广告，我一定追究到底。”
在今年的全国政协十四届三次会议的政协小组讨论会上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”
律师：
AI假冒公众人物已侵权，网络平台应具备识别和审核能力
封面新闻此前报道，《哪吒2》上映期间，多个账号使用AI伪造视频，称“刘德华在澳洲、欧洲、澳门演唱会上，现场喊话观众助力哪吒冲击票房，承诺向所有粉丝赠送哪吒电影票”。部分账号的粉丝量已超50万。不少网友信以为真，称赞刘德华“格局大”，喊话梁朝伟“跟上”。
对此，北京市中闻（长沙）律师事务所律师刘凯表示，这些行为涉嫌侵犯了明星及相关普通人员的姓名权、肖像权以及名誉权。如果通过虚假信息吸引粉丝并牟利（如广告收入、带货等），涉嫌构成不正当竞争或诈骗。
刘凯律师认为，技术、软件开发者应设置明确的伦理准则，防止开源技术被滥用；网络平台应具备识别AI生成内容的能力，要求用户标注AI生成内容，并对虚假或侵权内容审核、清理；职能部门应加强监管，司法部门应完善相关法律法规，以提高此类行为的违法成本。
社交媒体的合成视频及用户评论截图
国家职能部门：
《标识办法》 9月1日施行，生产者和平台均明确责任和义务
针对AI造成的虚假信息传播、破坏网络生态等问题。3月14日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行。
《标识办法》明确，服务提供者提供的生成合成服务应当按照要求对生成合成内容添加显式或隐式标识。其中，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
《标识办法》要求，内容传播服务的提供者应当规范“AI合成内容”的传播活动。应用程序分发平台、人工智能生成合成服务提供者，均需承担主动说明、核验“AI合成内容标识”相关材料。
服务提供者应当明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
