北京协和医院专家遭AI换脸带货，虚假科普视频误导消费者

IT之家 11 月 16 日消息，近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。

那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？对此，央视《每周质量报告》今日进行了调查报道，我们一起来看一下吧。

央视表示，近期在多个社交平台及直播间，出现利用 AI 技术仿冒知名专家、主持人形象进行虚假营销的现象。此类行为传播虚假信息，侵害消费者权益，引发广泛关注。

调查发现，一些自媒体账号发布了所谓的“科普视频”，其中“北京协和医院临床营养科主任于康教授”出镜推荐减肥食谱。经北京协和医院及于康教授本人核实，其从未参与录制此类视频。视频中的形象和声音均由 AI 技术伪造生成。

对此，于康教授明确表示，他本人并未参与录制此类视频，视频中介绍的营养知识，毫无依据，没有得到科学验证。

此类视频不仅盗用其个人形象，更传播未经科学验证的错误营养信息，误导消费者购买相关产品，对公众健康认知造成负面影响，并削弱了专业科普的公信力。

北京协和医院表示，遭遇类似 AI 仿冒困扰的医生不在少数，包括马方教授等多名专家形象被擅自用于“养生”、“瘦身”等虚假宣传，甚至有不法分子伪造虚假医生身份，打着协和医院旗号销售商品。

此类仿冒行为不仅涉及医疗专家，也波及公众人物。北京市海淀区市场监管局曾查处一起案件：某商家在直播间及短视频中，使用 AI 技术伪造中央广播电视总台主持人李梓萌的形象，宣称一款鱼油产品具有医疗功效。

经监管部门核查及商家承认，该视频系通过剪辑加工李梓萌的公开新闻片段合成。该产品实为普通食品（糖果类），其宣传构成虚假广告，商家被处以 20 万元罚款。销售记录显示，该虚假视频上线半月内，带动涉事鱼油产品销售额达 6 万余元。

调查显示，此类 AI 仿冒营销泛滥的原因之一在于相关技术工具获取及操作简便。手机应用商店中存在大量可免费使用的换脸、拟声 App 或小程序。

记者测试发现，仅需上传几张照片，即可将目标视频中的人物替换为自己或他人面容。部分工具还提供“AI 文生视频”、“AI 对口型”等功能，能在短时间内生成特定场景（如诊室）和身份（如医生）的营销视频，并可选择不添加 AI 生成标识。

针对 AI 生成内容的管理，《人工智能生成合成内容标识办法》已于 2025 年 9 月 1 日实施。该办法明确要求，利用 AI 技术生成或合成的文本、图片、音频、视频等信息，必须依法添加显性标识（使公众可识别）和隐性标识（如元数据，标明来源、用途等）。但在实际操作中，部分发布者使用不显眼字体或在画面边角添加标识，甚至故意隐匿标识。

监管部门和专家指出，治理此类乱象面临挑战：AI 深度伪造视频鉴别难度大、成本高；造假成本低；权利人维权周期长、程序复杂。专家建议需通过制度设计强化保护力度，并推动社会共治。平台作为内容发布渠道，应建立 AI 生成内容审核机制，加强对逃避标识行为的处理（如下架、限流）。

IT之家注意到，网信部门近期已重拳处置一批违规账号，同时督促平台集中整治，已累计清理 8700 余条违规信息、处置 11000 多个违规账号。

网信部门表示，将继续压实网站平台主体责任，对利用 AI 仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批。

随着大模型在各行业深度应用，其安全风险呈现出复合化特征。网络专家指出，AI 大模型安全涵盖数据、基础设施与模型本身三大层面，其中个人使用中的数据安全风险尤为突出。看似简单的图片、文字信息等内容通过 AI 处理，就可能泄露个人身份信息、人际关系等敏感内容。

网络安全专家李虎表示：可能只是上传了一张合照，我觉得就是通过 AI 来帮我美化一下或者加一项特殊处理。但是其实有可能就暴露了，因为照片上传之后，它其实可以通过人像识别技术把人的身份提取出来，然后通过人物的关系，比如亲密程度，可能猜测是什么人物关系，是朋友关系还是家人关系诸如此类的，然后这些数据都被提取出来之后又可能被进一步利用，比如被诈骗分子拿来利用。

除了 AI 大模型使用带来的数据安全外，公共场合不明来源 Wi-Fi 的不当连接也会造成敏感信息泄露。

网络安全专家王媛媛提醒：这种免费没有密码的 Wi-Fi 连接，不法分子可能会利用漏洞去架设一个伪基站，诱导大家进行连接，连接之后有可能会截取你的个人信息。

据介绍，只要有人接入了不法分子伪装的 Wi-Fi，在使用手机等电子设备时的一些操作都可能被截取，其中包括输入用户名、密码等个人隐私信息都会被窃取。

网络安全专家建议，个人用户要加强安全意识，优先选择合规大模型平台与正规渠道安装应用；另外，连接 Wi-Fi 时要警惕无密码热点，避免落入钓鱼陷阱。那么，我们在日常上网时还有哪些注意事项，防止个人隐私信息泄露呢？

• 不晒自己的火车票、飞机票登机牌、车牌：发布含有个人信息的火车票、飞机票、登机牌、车牌等票证，可能会被另有图谋的陌生人获取，从而导致个人隐私泄露；
• 不晒自己的证件照片：身份证、护照、驾驶证、结婚证等证件中，都包含重要的个人隐私，不要随意在网上发布；
• 不晒自己的位置信息：尽量不要发自己的定位信息，这些信息容易暴露真实个人住址，有可能带来不必要的麻烦和风险；
• 不晒老人和孩子的信息：避免发布老人和孩子的照片及姓名，以防不法分子利用这些信息进行违法活动，建议以分组的形式分享给亲人看。

央视指出，技术创新必须以诚信为底线，只有让 AI 在法治轨道上运行，才能净化网络生态和市场生态，真正服务社会。