广东
作品声明：内容取材于网络
镜头前的李梓萌，曾为贴合《新闻联播》的庄重感，戴了多年沉闷的假发套。
九十年代末拿着千元工资的她，因读错一个字就要被罚两百元，被倪萍调侃“贷款上班”。
这份用几十年如履薄冰换来的“国脸”公信力，却在2025年被AI技术轻易窃取，沦为不法商家的敛财道具。
从央视主播到奥运冠军，从医学专家到普通消费者，这场AI合成技术引发的信任危机，正在悄然改写网络空间的规则。
看似高科技的背后，是几百元软件就能操作的骗局，更是对公众信任底线的公然挑衅。
李梓萌“被带货”卖糖果
2025年2月，一场毫无征兆的风波打破了网络平静。直播间里，“李梓萌”身着职业西装、妆容精致，用标志性的播音腔向几十万观众推销“深海多烯鱼油”。
她表情严肃地声称，这款产品能治疗头晕头痛、缓解手麻脚麻，甚至改善记忆力下降。
背景板上“权威推荐”四个大字，搭配央视主播的公信力加持，让不少中老年人瞬间放下戒备，纷纷下单。
可收到包裹后大家才发现，产品包装背面的执行标准赫然写着“糖果”——这只是一款普通食品，根本不具备任何治疗功效。愤怒的投诉如雪片般涌向监管部门。
海淀区市场监管局介入调查后，真相浮出水面：李梓萌从未参与过该直播，视频中的“她”是AI技术合成的数字克隆人。
涉事公司从网络搜集了十几张李梓萌的高清公开照片，用几百元就能买到的AI换脸和声音合成工具，不到两小时就完成了制作。
这个拥有88万粉丝的账号，靠着虚假宣传疯狂牟利，直至2025年6月被依法查处，成为北京首例滥用AI技术发布虚假广告案。
最终，涉事公司因违反《广告法》接受行政处罚，账号被永久封禁。
奥运冠军集体“躺枪”
AI骗局的魔爪并未止步于央视主播，奥运冠军们的名誉也遭到疯狂收割。
2025年4月起，多个社交平台出现假账号，截取全红婵的赛后采访片段，用AI合成她的声音和形象，推销土鸡蛋、蜂蜜等产品。
视频里，“全红婵”操着带广东口音的普通话卖惨：“这是我老家的土鸡蛋，帮家人赚点钱”。
这种拙劣脚本搭配奥运冠军的纯朴形象，让不少老年粉丝心软下单。可劣质货品送达后，买家纷纷把矛头指向全红婵一家，认为她借名气敛财。
不堪其扰的全红婵妈妈，于4月29日公开澄清，强调家人从未参与任何代言或带货，所有相关视频都是伪造。
但辟谣并未遏制乱象，7月至8月，类似虚假视频反复出现，甚至有账号用AI合成孙颖莎、王楚钦的形象“助阵”，还通过水军刷弹幕营造热销假象。
人民日报8月发文点名批评这种行为，指出其侵犯了名人肖像权和消费者权益，违背了商业伦理。
无差别收割
不仅是公众人物，专业人士也未能幸免。网络上流传的一段短视频中，“张文宏医生”正在推销蛋白棒，声称产品能“增强免疫力”“适合日常补充”，完全背离了他的专业身份。
有细心网友发现，视频中的“张文宏”画面模糊，嘴唇开合与说话内容存在明显时差，手势节奏也完全对不上。
张文宏本人随后澄清，确认视频系AI合成，并非自己参与录制。据网友反馈，涉事账号的商品橱窗显示，这款蛋白棒已售出1180件，直至被微信平台永久封禁。
律师明确指出，这种行为已侵犯他人肖像权，若造成损害需承担赔偿责任。更值得警惕的是，AI技术的滥用已呈现无差别化趋势。
无论你是代表公信力的主播、国民好感的运动员，还是象征专业权威的医生，只要有知名度，就可能成为黑产眼中的“流量素材”。
AI合成内容必须显式标注
AI乱象的蔓延，终于触发了监管的重拳出击。针对一系列AI虚假带货事件，国家层面迅速完善政策法规，《人工智能生成合成内容标识办法》自2025年9月1日起施行，要求所有AI生成合成内容必须添加显式标识，从源头遏制虚假信息传播。
在此之前，北京、上海等城市已开展“AI乱象整治专项行动”，严查利用AI技术进行虚假宣传的行为。央视《新闻+》等节目也专题曝光相关案例，法律专家解读称，AI仿冒带货不仅侵犯肖像权和声音权，更是赤裸裸的商业欺诈。
各大网络平台也强化了审核机制，对未按要求标注的合成内容，采取限制流量、直接下架等处置措施。
这些举措正在显现成效：截至2025年10月，专项行动已查处20多起类似案件，封禁违规账号50余个。曾经几百元就能作恶的低成本骗局，如今面临着高额罚款、账号封禁甚至刑事追责的高代价。
技术本身没有对错，AI合成可以用于电影特效、虚拟医疗等正当领域，但当它被当作割韭菜的镰刀，就必须受到法律的约束。
李梓萌用几十年苦练换来的公信力，全红婵用汗水赢得的国民好感，张文宏用专业积累的权威形象，都不该被几行代码轻易窃取。
结语
如今再刷直播间，不妨多留意画面上的“虚拟合成”标识。
AI技术冲击下，信任的裂痕或许难以避免，但法律与监管的及时补网，正在帮我们分清屏幕对面是有血有肉的人，还是冰冷的数据。
这不仅是在保护公众人物的权益，更是在守护每一个普通人的钱包与信任，让技术真正服务于人，而非成为作恶的工具。
信息来源：
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
