“复活”茶界泰斗代言、伪造主持人卖货：AI不可逾越哪些红线？

已经去世的茶界泰斗被“复活”做品牌代言？央视新闻节目的主持人在直播间卖起了“深海鱼油”？最近一连串使用AI技术的违规广告营销视频，引发了广泛关注。10月14日，一段由AI生成的已故“茶界泰斗”张天福现身短视频平台为某茶企代言的视频在网络引发广泛争议。对此，张天福的家属表示，将通过法律途径维权。

用AI复活逝者，本可视为一种记忆上的“反哺”；但如果未经当事人家属允许而用于商业推广，被恶意消费的就不仅仅是逝者，还破坏了基本的社会伦理，更涉嫌违反相关法律。我国《民法典》等法律法规明确规定，自然人去世后，其形象权与名誉权仍受法律保护。

如今在各短视频平台，AI“复活”已故名人已非新鲜事。2024年歌手李玟在去世八个月后被网络博主用AI技术“复活”，其他近现代历史人物被用AI制作出自拍vlog甚至蹦迪的视频更是屡见不鲜。这些行为不仅让逝者尊严被商业利益裹挟，更让其亲人面对形象被滥用的二次伤害。

生成式AI在商业领域的滥用，会对消费者造成严重误导。据央视新闻报道，今年2月北京市海淀区市场监管局查处一案中，某公司不仅通过视频账号虚假宣传其“深海多烯鱼油”可治疗多种疾病，更用AI技术伪造央视某主持人形象用于直播间。这种行为精准利用了部分群体对权威媒体、权威主持人的信任心理，大幅降低消费者的警惕性。同时，“有图有真相”的刻板印象，让AI伪造形象、合成已故专家代言等行为极具迷惑性，最终破坏了市场消费的信任体系。

从技术层面来看，如今制作一段AI生成视频的门槛极低，仅需一段音频或视频素材就能进行深度合成。尽管有技术专家提出，若在源头严格管理数据安全——比如用户上传素材时进行人脸、人声识别，并提示需取得相关个人授权，可有效减少违规使用——但大量数据审核仍会给平台带来一定压力。

随着人工智能高速发展，大量具备内容生成功能的人工智能大模型快速涌现。在用户规模扩大的同时，人工智能治理面临的风险与不确定性也在上升。对于消费者而言，也需提升自我保护意识：观察视频细节；遇到“名人代言”“权威推荐”之类内容时，最好通过官方账号、权威媒体二次核实。

AI本是服务人类的工具，一切技术并无善恶，自然也可辅助用于正当营销。但唯有让AI在法律框架与伦理边界内发展，才能避免技术沦为消费逝者、误导公众的工具，真正让技术向善，守护好社会的温度与信任。

原标题：《微言 | “复活”茶界泰斗代言、伪造主持人卖货：AI不可逾越哪些红线？》

栏目主编：范兵、张裕 题图来源：新京报我们视频截图

来源：作者：文汇报 王布米