前沿编译｜生成式AI的革命：名人形象保护与挑战

生成式人工智能（AIGC）技术为媒体和娱乐行业开辟了前所未有的机遇，同时也带来了复杂的挑战。近年来，名人姓名、形象、肖像与声音的深伪内容和未经授权的数字复制品泛滥，不仅威胁到名人和企业的合法权益，也对公众认知与法律体系形成冲击。从深伪技术制造虚假广告到生成不当内容，这些滥用现象引发了关于隐私侵权、知识产权盗用及声誉损害的广泛讨论。然而，AI技术同样为名人和品牌提供了数字化扩展的新路径，例如通过授权虚拟形象拓展创意领域或市场渠道。生成式AI既是一把开启创新的钥匙，也是一柄潜在的双刃剑：一方面，它推动了娱乐行业的创意革新；另一方面，深伪内容的失控传播则对名人形象和社会信任构成威胁。要应对这些问题，亟需通过技术解决方案与法律保护的紧密结合，构建一个平衡创新与风险的生态体系。

深伪技术的威胁与滥用

生成式AI支持多种类型的合成媒体，包括图像生成、语音克隆和深伪视频等形式。未经授权的名人照片或不当内容图像、模仿名人声音制造假广告或假新闻，以及将名人面孔替换到不当内容视频或虚假声明中的内容都属于深伪内容。这些深伪内容通过社交媒体、应用程序以及暗网传播，对名人造成了直接的经济与声誉损害。

部分名人在未经同意情况下被使用姓名、肖像、形象和声音的案例

2024年3月，珍娜·奥尔特加（Jenna Ortega）和塞布丽娜·卡彭特（Sabrina Carpenter）的AI生成不当图片被用来推广一款名为Perky AI的应用。这些图片通过Facebook广告大规模传播，目标是吸引用户点击下载。这一事件不仅侵犯了两位名人的隐私权，还在公众中引发了对生成式AI技术滥用的担忧。同年10月，汤姆·汉克斯（Tom Hanks）的深伪视频出现在Instagram上，视频模拟了汉克斯的语音和表情，用于宣传一个虚假的牙科计划广告。这一高度逼真的深伪视频让许多消费者上当受骗，同时也对汉克斯的公众形象造成了损害。更早之前的2024年1月，泰勒·斯威夫特（Taylor Swift）的深伪不当内容图片首次在Telegram群组中被发现，随后迅速传播到X平台（原Twitter）。这些图片不仅对斯威夫特的个人声誉造成了显著损害，也在社会舆论中掀起了对深伪技术监管缺失的批评。

根据微软2024年的全球在线安全调查报告，大部分消费者对生成式AI可能引发的潜在问题表达担忧，尤其是使用AI生成诈骗、深伪等方面。

《综艺》智库与Smith Geiger2024年展开的研究揭示了深伪内容对消费者的显著影响，特别是在年轻群体中的影响尤为突出。数据显示，18-24岁的用户中有 47% 曾误以为深伪内容是真实的，这一比例在所有年龄段中最高，反映出年轻用户更容易受到虚假内容的误导。这可能与其对社交媒体的高频使用及其对数字内容的高度依赖密切相关。相比之下，整体用户中有 30% 表示曾被深伪内容误导。

此外，深伪内容的快速生成和传播对检测工作提出了巨大挑战。人工检测深伪内容极为耗时，现有团队难以应对每天大量生成的侵权内容。尽管技术工具在一定程度上提供了支持，但其在处理大规模内容时仍显得效率不足，特别是当部分深伪内容分布在暗网或私密平台时，追踪和删除的难度进一步加剧。这种隐蔽性使得现有的技术手段和监管手段均面临严峻考验，凸显了加强技术创新与监管政策的必要性。

应对深伪的技术方案与政策框架

当前深伪检测技术主要依赖分类器模型、多模态检测工具和实时监控等方式。这些技术能够分析数字内容是否为合成，并对图像、音频和视频等多种类型的内容进行处理。例如，Reality Defender的工具能够对视频的每4-6秒进行预测，标记可能被操控的片段。Resemble AI的音频检测工具通过分析音频的每几毫秒数据生成“锯齿状可视化”图表，以显示录音的完整情况。尽管技术进步显著，但仍然存在挑战，包括检测模型需要不断适应新型生成式AI工具的更新，以及压缩和重新编码的内容可能隐藏深伪痕迹而降低检测准确性。

来源验证技术是应对深伪内容的另一种方法，包括嵌入水印、元数据加密和指纹识别等。这些技术通过在合成内容中嵌入不可见的标识和加密信息，以及生成唯一的哈希值（一种通过哈希算法生成的固定长度数据摘要，用于唯一标识和验证原始数据），以标识内容并追踪其分发路径。例如，Adobe的Content Authenticity Initiative（CAI）为媒体内容提供了完整的来源验证链，Truepic则提供端到端的媒体验证解决方案。这些技术的广泛应用将有助于提高数字内容的透明性与可信度。

英国消费者认为社交媒体平台应采取的措施，以应对有害Deepfake内容的传播

（调查对象为英国成年人）

调查显示，大多数消费者支持使用来源验证技术以打击深伪内容。例如，76.6% 的人认为在深伪内容上添加警告标签或水印是有效的；此外，87.3% 的消费者支持社交媒体平台采取更严格的措施，比如禁止或暂停传播深伪内容的用户权限，这表明公众对平台监管的期待较高。与此同时，82.4% 的受访者希望平台提供更便捷的举报机制，确保虚假内容能够及时被移除。

英国消费者认为利益相关方应采取的措施，以应对有害Deepfake内容的传播

（调查对象为英国成年人）

另一方面，行业决策者也对应对深伪内容的技术手段表现出高度认可。研究显示，62% 的决策者认为自动检测工具是解决深伪内容问题的关键。这种工具能够高效识别潜在的虚假内容，从而为平台的管理和清理提供技术支持。相比之下，消费者则更加关注直接影响其体验的措施，例如平台透明度和教育培训。

各国正在积极制定法规以规范生成式AI的使用。例如，美国版权局（USCO）发布了关于数字复制品的保护政策，并就人工智能生成内容的版权问题开展了系列讨论；欧盟的《通用数据保护条例》（GDPR）则强调对数据隐私的保护，为生成式AI的发展和应用提供了法律保障。在美国，多个州和联邦层级正在推进生成式AI的法律框架。例如，《NO FAKES法案》旨在禁止未经授权的深度伪造内容，特别是用于欺诈或侵犯名人形象权的内容，而田纳西州的《ELVIS法案》则专注于保护名人的姓名、形象、声音等数字权益。与此同时，加州也出台了多项相关法案，包括AB 1836（禁止未经同意使用某人的数字形象）和SB 926（禁止制作和传播深伪不当内容），这些法规在应对生成式AI滥用方面起到了积极作用。

数字复制品：名人形象的全新应用

名人数字复制品的授权机制正在快速发展，其应用场景包括广告与品牌合作、影视与游戏中的虚拟演员应用，以及用于粉丝互动的名人聊天机器人或虚拟形象。例如，2024年7月，美国版权局发布了一份关于数字复制品的报告，指出名人应通过法律机制控制其数字形象的使用。这种授权机制不仅为名人带来额外收入，也帮助品牌提升市场吸引力。例如，使用AI生成的虚拟名人在广告中推广产品，可以在全球范围内同时展开多语言、多文化的市场活动。为了支持数字复制品的应用，需要建立强大的数据管理系统，这些系统包括分布式存储、实时监控和隐私保护等功能，以确保训练数据的安全性并防止泄露，同时通过自动追踪名人数字复制品的使用情况保障其合法性。

名人数字复制品使用案例（来源：《综艺》智库，2024年11月）

调查表明，消费者对名人AI角色表现出浓厚兴趣。这种兴趣集中体现在虚拟名人的互动应用上，例如聊天机器人、语音克隆和虚拟舞台表演等。名人AI角色的应用场景包括影视特效、游戏配音、虚拟演唱会和品牌代言等，利用数字扫描或语音克隆技术实现。例如，Meta推出的聊天机器人基于名人语音与用户互动，而Virgin Voyages通过詹妮弗·洛佩兹（Jennifer Lopez）的虚拟形象打造个性化营销活动。这些案例展示了名人数字复制品在娱乐和商业领域的广泛潜力与吸引力。

构建生成式AI的可持续未来

未来的生成式AI工具需要更加透明，以增强用户信任。技术公司已开始引入生成器标识功能，例如通过水印或媒体出处标记，使用户能够识别内容来源。这样的技术改进将为打击深伪内容的传播提供坚实基础。同时，公众教育被视为长期解决深伪内容的关键策略。通过技术创新、法规实施和公众教育的结合，生成式AI可以在推动创新和保护权益之间实现平衡。这不仅需要技术公司的投入，也需要行业协会和政府的共同努力，从而建立一个既具前瞻性又负责任的生成式AI生态系统。

编译报告内容来源：

Variety Intelligence Platform.Generative AI, Celebrity Deepfakes & Digital Replicas: A Special Report. December 2, 2024.

— THE END —

作者 | 谢沛东

主编 | 彭侃

执行主编 | 刘翠翠

排版 | 于佳欣