央视曝光AI深度伪造乱象：雷军等成受害者，AI换脸侵蚀社会信任！

#深度好文计划#

2025年3月16日，央视新闻客户端发布重磅调查，揭露人工智能（AI）技术被不法分子用于深度伪造名人形象、声音，实施虚假宣传甚至诈骗的黑色产业链。中国工程院院士、天津中医药大学名誉校长张伯礼成为最新受害者——其肖像与声音被AI技术伪造，用于某美白护肤品推广视频。这一事件再次将AI技术滥用问题推向舆论风口，引发公众对个人信息安全、社会公信力及法律监管的强烈担忧。

AI造假“以假乱真”，张伯礼院士“被代言”

据央视报道，近日网络流传一段“张伯礼院士推荐某护肤品”的视频。视频中，张伯礼不仅详细讲解产品成分，还声称“亲身使用效果显著”。然而，经天津中医药大学核实，该视频系不法分子通过AI换脸、语音合成技术伪造，张院士从未参与此类商业活动。目前，校方已向网信部门申请紧急管控，并保留法律追责权利。

此类AI伪造并非孤例。近年来，名医、企业家、明星等公众人物屡遭“AI换脸”侵权。例如，张文宏医生被伪造直播带货蛋白棒，雷军、靳东等名人的声音和形象被用于虚假宣传，甚至已故明星也被“AI复活”用于牟利。

技术滥用侵蚀信任：从虚假带货到诈骗陷阱

AI深度伪造技术的低成本、高仿真特性，使其成为黑产的“利器”。央视调查显示，抖音、快手等平台上存在大量篡改综艺片段、伪造明星代言的视频。例如，唐嫣、应采儿等明星的节目发言被AI篡改，植入钙片、保健品广告。更有犯罪团伙利用中老年人对明星的信任，通过伪造“私人直播间”建立情感联系，骗取钱财。2023年上海静安区曾破获假冒“靳东”诈骗案，涉案金额达19万元。

专家指出，AI造假已形成完整产业链：从盗取肖像、声音数据，到批量生成虚假内容，再到通过平台流量分发获利。北京互联网法院数据显示，近一年受理的AI换脸侵权案件激增，带货视频销量可达每小时上千件。

法律与监管的“攻防战”：平台责任何去何从？

面对技术滥用，我国已出台多项法规。2024年，《人工智能生成合成内容标识办法》明确规定，AI生成内容需添加显式标识。微信、抖音等平台也开展专项治理，2024年12月至今，微信累计处置违规内容532条、封号209个。然而，封号速度远不及黑产团伙的“AI批量造号”效率。

法律界人士强调，未经授权使用他人肖像、声音已构成侵权，情节严重者可追究刑责。但维权难点在于：受害者需自行举证内容系伪造，而普通用户缺乏技术鉴别能力。上海消保委呼吁，平台需强化事前审核，建立“AI内容黑名单”，并简化侵权投诉流程。