独家对话“水哥”王昱珩遭换脸带货，AI乱象如何解？

近年来，AI换脸技术屡屡被大众热议，成为技术“双刃剑”的典型代表。

它极大降低了大众的创作门槛，激发网友对热门歌曲、热播影视剧“二创”的热情，同时也在一定程度上提升文艺作品的热度，助力其出圈。然而，AI换脸的滥用也已成为违法侵权行为的重灾区。AI换脸拟声后的“靳东”，锁定中老年群体进行诈骗；以头部艺人形象换脸的盗版短剧被打包出售；多位知名女演员的面容，被移花接木至色情视频中；仅今年以来，就有全红婵、董宇辉、孙俪、古天乐、林峯等多名知名公众人物方，发声打假AI生成的带货视频......近日，因“微观辨水”一战成名的“水哥”王昱珩也卷入一起与AI换脸相关的商业纠纷。

这么神奇的“一键换脸”黑科技，应该如何得到更好地监管和使用？南都娱乐独家对话维权当事人“水哥”王昱珩、法律专家和AI技术从业者，一起探讨AI换脸侵权乱象的应对之道。

1

AI换脸成侵权重灾区

当事人王昱珩：违法成本低、维权成本特别高

因在脑力竞技综艺中展现出异于常人的观察力与记忆力，“水哥”王昱珩以高智商、强脑力的形象给公众留下深刻印象。然而，有商家正是看中这一点，擅自利用AI生成其带货的视频。王昱珩告诉南都记者，直到身边的朋友发来视频询问，他才知道自己“被带货”了。

带货视频通过AI换脸、AI拟声、剪裁拼接等方式，制造出王昱珩推荐产品的假象。

南都记者注意到，上述带货视频涉及儿童书籍、儿童保健食品等类型的产品，正契合了王昱珩的形象特质以及家长关注儿童教育和健康的心态。带货视频通过AI换脸、AI拟声、剪裁拼接等方式，制造出王昱珩推荐产品的假象。有消费者信以为真，在评论区留言：“本来想买另外一个品牌的，但看到王昱珩推，就这了。”“王昱珩，我信任你，买了。”视频还挂有售卖链接，其中一款儿童保健食品的销量高达90多万，另一款儿童书籍的销量也超过10万。

有消费者对换脸带货视频信以为真。

在发现被侵权后，王昱珩及团队通过法律途径维权，目前侵权视频已基本下架，并由侵权方对其作出赔偿。王昱珩向南都记者坦言，此次维权带给他的触动颇大，作为当事人，他体会到当前针对AI换脸侵权的乱象，仍存在违法成本低、维权成本特别高的情况。

据悉，通过正常渠道邀请知名公众人物代言，代言费用可能达数十万至数百万。“若未经授权用AI给我换脸带货，即使被告，输了也就赔个一两万，对商家来说非常划算。”此外，取证过程也颇为困难。“他今天下架视频，等过两天再上架，反正你不可能永远盯着他，他就可以一直跟你玩躲猫猫的游戏。”

王昱珩回忆，当团队找到侵权方交涉时，对方的态度并不担心被告，反而提出，既然已经“生米煮成熟饭”，不如双方转为正式签约，这让他感到愤怒又无奈。

在王昱珩看来，AI技术滥用而造成的侵权乱象，不仅助长了不法分子不劳而获的风气，更伤害着人与人之间的信任，他呼吁相关法律法规的进一步完善以及网络平台的有效作为。

北京市炜衡（广州）律师事务所文创煋团队张律师告诉南都记者，团队近两年处理的案件中，涉及公众人物的AI侵权现象尤为突出，例如通过AI换脸技术为商品带货、擅自更换热播电视剧角色的肖像、生成以假乱真的艺人声音等，这些行为涉嫌侵犯他人的肖像权、名誉权、著作权等。

2

换脸乱象为何猖獗？

技术易用难管、法律有空可钻

为什么AI换脸技术成为违法侵权的重灾区？目前对此项技术的规范使用存在哪些难点或挑战？

从技术层面来看，一方面，AI换脸技术迭代迅速，深度伪造的精细程度不断提升。人工智能行业创业者陈启熙向南都记者指出，AI换脸技术迭代的整体趋势必定将越来越像真人，普通用户将越来越难以仅凭肉眼辨认真假。

中国科学技术大学博士刘泓谷所在的智能认知安全实验室（AICS_Lab）研究深度伪造技术检测多年，曾参与由Facebook（更名Meta）发起的全球最具影响力的深度伪造检测挑战赛DFDC，获全球第二。刘泓谷告诉南都记者，有研究表明，人类识别高质量深度伪造视频的准确率仅约为20%，“也就是给你5段视频，你只能区分出1段。”

另一方面，提供AI换脸技术的工具繁多、成本低廉，普通用户使用该项技术的门槛变得越来越低，也给不法分子提供了便利性。“不需要太多知识，只要上传人脸图像或者视频，它就能够给你合成出一段。”刘泓谷说。

与此同时，现有技术缺乏对AI换脸的有效检测及遏制。人工智能行业创业者陈启熙和刘泓谷都表示，虽然自动识别AI合成视频是当前的一大研究方向，但目前更多的是事后的检测和溯源；要做到事前就准确检测及拦截，仍存在较大的技术难度。“当前AI项目热衷于将自己的技术开源，意味着不法分子有可能将此微调成自己的技术，而检测技术很难追上自由生长的开源技术衍生迭代的发展速度。”陈启熙说。刘泓谷则以比喻总结道，“这就相当于是一个攻防的过程。作为攻击方，我只要越做越好就可以了；而作为检测、识别的防守方，得在弄明白这项技术的基础上再去应对，所以发展速度一定是相对落后的。”

从法律层面来看，则仍存在多方面的局限性乃至空白点。

首先，比起AI换脸技术迅猛发展的速度，现行法律法规相对滞后。华南师范大学法学院教授、广东省人工智能法律应用重点实验室主任、华南师范大学人工智能法律应用研究中心主任王燕玲向南都记者表示，《中华人民共和国民法典》虽然对肖像权、名誉权等进行了较为详细的规定，但并未专门针对AI换脸等新技术的应用进行规范。例如，《民法典》明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。然而，AI换脸技术的广泛应用使得这一条款在具体适用时面临困难，尤其在认定“伪造”和“利用信息技术手段”时存在模糊地带。此外，侵权认定标准亦不明确。AI换脸涉及深度学习、图像处理等多种技术手段，这些技术手段的使用往往难以直接归类为传统意义上的“伪造”或“丑化”。

北京市炜衡（广州）律师事务所文创煋团队张律师亦指出，目前缺乏针对AI技术的专属立法。“当前法律框架主要基于传统肖像权、个人信息权和著作权等概念，未针对AI换脸等生成式技术的特点制定专门规范，明确其使用规范、责任划分及处罚标准。”

其次，举证难度大、赔偿缺乏统一标准，导致违法成本缺乏足够的震慑力。王燕玲和张律师均表示，公众人物要证明AI换脸侵权行为对其造成的实际损害，在实践中存在较大难度。“例如，如何证明某一AI换脸视频的传播对公众人物的商业价值或社会声誉造成了负面影响？相关证据往往难以收集和固定。”王燕玲说。

王燕玲进一步指出，原告的知名度、使用肖像的数量、时间、用途等因素，在不同案件中的权重和具体计算方法存在差异，导致赔偿标准不统一。张律师对此也感同身受，他告诉南都记者，在公众人物的实际损失或侵权方违法所得无法确定的情况下，法院通常会采用酌定赔偿，但金额标准存在较大差异，缺乏相对统一的标准。“虽然《民法典》和《著作权法》均有作出惩罚性赔偿的相关规定，但获赔的案件不多，导致缺乏足够的震慑力，很多侵权方的违法成本可能远低于侵权行为可能为其带来的商业利益。”他进一步指出，由于AI换脸涉及的技术分析成本高、耗时长，追踪侵权内容在多平台的传播链条和责任主体也需耗费大量的取证和分析工作，导致维权成本往往远高于侵权方的违法成本。

此外，王燕玲还指出了平台责任界定不清、缺乏多部门协调和监管机制、国际合作不足等现存问题。张律师亦认为，平台责任不清，对AI生成内容的主动审查义务有待明确。

3

侵权乱象何解？

法律先行，监管补位

AI换脸拟声技术带来如此多的弊病，是否意味着它没有用武之地？

当然不是。以影视行业举例，主演保罗·沃克因车祸去世后，电影《速度与激情7》就通过让其兄弟担任替身和换脸技术完成了保罗在片中的剩余戏份，让他在银幕上“数字复活”。在塌房事件层出不穷的内娱，为了不让主演个人行为影响到项目的播出，“换脸”技术也成为不少片方减少损失的一种选择。

作为双刃剑的技术有它能被合理利用的空间，正确施展它效用的同时，乱象也应该得到遏制。如何来减少利用换脸技术侵权的的行为？受访者不约而同地表示，需要多方共同建立一个健全完善的监管体系。“如果（监管）跟不上的话，那么你的技术就只会被坏人利用，因为好人没有办法去维权。”王昱珩说。

最为首要的是相关法律法规的及时补足，这是各方在处理该类问题时有法可依的前提条件。面对日新月异的技术发展，配套的法律法规也应及时跟上，才能减少不法分子钻空子的行为。王燕玲建议，出台专门针对AI换脸等新技术应用的法律法规。

张律师也表示，赔偿机制有进一步完善的空间。“例如，解决酌定赔偿金额偏低、细化惩罚性赔偿的适用条件、精神损害赔偿标准不明确等问题，从而通过提高违法成本来增加震慑力。”

另一方面，法律法规如果能明确技术开发方和平台的责任，也能督促其更主动地做出改进措施。“我们都认为应该制定一些相关的法律法规，来规范AI技术的开发和应用。”刘泓谷说，技术开发者也需要确保技术被负责任地使用。

“要激励平台去做（监管）这个事情，肯定是国家要从法律的层面去支持平台。”陈启熙说，“比如政策可以有一定补贴，还有万一出现了违法行为，平台要受什么样的处罚。从这个角度来说去倒逼平台做出一些完善。”

具体而言，技术开发方和平台如何来落实自己的监管责任？从节点来考虑，事先预防和事后追责缺一不可。

在网络平台，一种较为常见的提醒方式是在用户上传的内容上打上“该内容疑似由AIGC生成”的标语，这对用户来说能够起到一定的帮助辨别作用，但张律师也表示，标语仅起到提示作用，无法替代删除或屏蔽等实质性措施，也因此标语本身不具备直接免责的效力。

陈启熙建议，平台甚至可以将AI换脸检测机制内置在系统中，让用户无法发布此类视频。这与刘泓谷团队开发的深度伪造检测技术有共通之处，据介绍，该团队已经与荣耀达成合作，实现AI反诈功能。“你去打微信视频的时候，如果对方用了换脸，手机可能会做一些提醒，当然不可能完全准确，但能提醒一些。”

对于AI换脸技术开发方，刘泓谷还提供了另一种从源头遏制的技术思路。“甚至可以在非法场景失效，比如你用这个工具去生成敏感人物或者敏感内容，让你直接生成不出来。”这在技术层面也有一定的可能性，“它更容易从源头来处理，而不是说等传播出来之后你再去检测，因为确实带来的这种危害已经都发生了。”

当侵权行为发生后，取证和溯源则成为追责的重要环节。张律师表示，平台可以利用区块链技术为用户上传内容生成不可篡改的存证记录，便于权利人取证和平台追责。

陈启熙和刘泓谷都向南都记者提及，技术开发方可在生成的内容中打上“数字水印”，不影响内容的观看，但可以用来辅助检测，也能对侵权内容的制作方进行溯源。刘泓谷还补充，技术开发者还可以加强自身的溯源能力。“如果一旦有人用这个工具制造的视频去做了不法行为，他们能够帮助查到是谁来制作的内容。”

此外，加大对违规用户的惩罚力度也能够有效震慑不法行为。无论是技术开发方还是网络平台，对此类侵权内容的制作者和使用者都可以采取封禁等措施，来提高他们的违法成本。

4

普通人如何对待“黑科技”？

增强法律和自我保护意识

在采访中，受访者们也强调了公众宣教的重要性。在AI换脸等伪造技术侵权的乱象之中，大众可能是受害者，也可能是侵权行为有意的施行者或无意的助推者。那么，作为普通人，该如何应对这类技术革新伴随而来的诸多问题，遵守法律底线也维护自身的权益？

张律师表示，需要加强普法宣传来提高公众的法律意识。“例如，在平台内显著位置提示AI换脸的法律风险，提醒用户不得擅自使用他人肖像。”另外，对AI生成内容采用更明确的标识（如“经授权的AI生成内容”或“未经授权，存在法律风险”），也能保护消费者知情权。

同时，我们也需要不断提升自己辨别能力。“从技术上来讲，还是有一些我们可以用到的技巧。”刘泓谷告诉南都记者，目前大部分的生成方式都是通过图片来伪造人脸，仔细观察还是能发现一些不自然的细节。“一个正常的视频是具有视频固有的一些性质的。举个例子，它的生物特征会很流畅。换脸的一张图可能你看不出来，但视频的话你去观察人的生物特性，可能还是会有一些生成的迹象。”

他还呼吁，当遇到真假难辨的信息时，先暂停传播，去寻找可靠的来源。“现在这种互联网的发达程度，你其实很容易去找到一些信息的来源。”

面对互联网真假掺杂的信息，陈启熙给出的建议也有些类似：质疑一切。“听上去像是没有办法的办法，但可能抱有质疑一切的态度，就不会自己先入为主地去做谣言的传播者，我觉得这个很重要。如果肉眼判断内容越来越难，那也可以从渠道上去判断。”陈启熙以AI换脸带货举例，“我们也可以去看明星本人或者是工作室这样的授权账号（是不是发布过相关内容），如果有，那我们就可以选择去相信。”

此外，对于维护自身权益，刘泓谷还特别提醒大众多注意保护自己的隐私。“如果需要伪造得特别好的话，通常是需要很多特定的人脸数据，我们普通人在公开社交平台不要过多发自己的清晰人脸照片。”刘泓谷说，“如果你只有很少的这种数据，伪造可能相对难度就会大一点，成本也会高很多。这方面可能是我们普通人就是能够非常容易做到的一个事情。”

采写：南都记者 余晓宇 钟欣