AI换脸刘昊然成淫秽视频男主，黑产：“不限类型，换谁都成”

撰稿 | 狗哥

编辑 | 草草

提到AI换脸，想必很多人并不陌生。早在许多年前，AI换脸技术就引发了互联网的火爆和震惊。众人纷纷惊呼，原来换脸能换到如此逼真的程度，简直可以以假乱真。

近日，AI换脸又引发了新的风波。前几日，一张淫秽视频截图在互联网中流传。图中人物的脸，乃是男星刘昊然。

提到刘昊然，中青年人大概都比较熟悉。他主演过奇幻大剧《九州缥缈录》和陈凯歌执导的献礼建国70周年电影《我和我的祖国》，以及和王宝强合作的《唐人街探案》系列，可谓家喻户晓，颇有名声。

据报道，近期有大量网友通过网络渠道、利用AI换脸技术，传播对刘昊然带有侮辱性的视频、截图，同时还含有存在诽谤言论的聊天记录。

通过搜寻互联网中的素材发现，在相关视频画面中，被AI换脸的刘昊然未穿上衣。网友发现，在1分04秒的地方，人脸有明显变化，前后并不是同一个人。网友因此推断，该视频是AI换脸合成。

8月26日晚间，刘昊然工作室发博打假，表示该视频为AI换脸技术伪造，该工作室表示，为维护刘昊然的合法权益，他们已向警方报案。

8月28日晚，刘昊然工作室也对此事件发布了微博，称有大量用户通过网络渠道传播含有使用AI换脸技术对刘昊然进行侮辱的视频。

其实，此次刘昊然已经不是第一次被换脸。早在去年3月，抖音博主“韦康vico”的一条换脸刘昊然的创意视频，获得了近120万点赞。

今年1月22日，刘昊然工作室就个别网络用户利用AI换脸散播不实言论发布声明，委托北京星权律师事务所全权处理，保留追究法律责任的权利。

“AI换脸术”流行互联网由来已久

回首互联网，名震江湖的“AI换脸术”和“AI脱衣术”已经存在多年。

2019年，国内掀起“换脸”风潮。B站up主“换脸哥”将94版《射雕英雄传》的影视片段中朱茵的脸替换成杨幂，迅速在网上发酵并引发争议，B 站视频截止删除前点击量超出 20 万，微博话题阅读量 1.3 亿。这是全网第一次领略“换脸术”的神奇。

其实，此前播出的很多影视剧，比如《封神演义》、《光荣时代》、《长安十二时辰》、《时光与你都很甜》等，都使用了换脸技术。就连近日因受吴亦凡牵连而难以播出的《青簪行》，也被众多网友力荐可以使用AI换脸替换掉吴亦凡的脸。

去年，陌陌旗下的ZAO App人脸合成视频火爆一时。“仅需一张照片，出演天下好戏”，用户或是换脸“小李子”、“周润发”、“白展堂”、“玛丽莲·梦露”，或是替换成偶像的搭档，轻松穿越各类大片当主角，满足了许多人的好奇心。

此外，快手“神奇变身术”的活动里，只需要上传1张清晰正脸照片，不花力气就能生成“女神”、“男神”、“古风”等多种风格的短视频。B站的鬼畜区也是换脸重灾区。甚至AI换脸已经成为部分短视频博主产出内容的赚钱利器。

前不久，明星汪东城也晒吴尊AI女装换脸视频，当然，他们是在彼此同意的前提下，互相搞着玩的。只是，确实很真，如同世上真有这般人。

在有些人的概念中，换脸可能还停留在P图的地步。然而，如今的AI换脸技术已经能将动态视频中的人脸，替换成其他人的人脸，在深度伪造技术的助攻下，替换上的人脸不再是僵硬的五毛特效，而是富有表情神态，甚至到了肉眼难辨的境界。

据悉，AI换脸技术最早出现在2017年，也被叫做“深度伪造技术”。

2017 年，国外名为“DeepFakes”的用户在Reddit上发布了一个假视频，利用深度学习和AI 新技术将《神奇女侠》的扮演者盖尔·加朵的脸换到了成人电影上，一石激起千层浪，引发众网民哗然，从此AI 换脸技术逐渐泛滥成灾。

“AI换脸”已经演变成黑产牟利手段

近日，南都记者调查发现，“AI明星换脸”已经成为一条灰色产业链。AI换脸泛滥的一个重要原因，是它能够被低成本低门槛地获取和运用。

记者从一个AI换脸制作者那里了解到，“五分钟视频换脸100元”、“学教程2000元包教包会”、“进行一对一教学”、“不限视频内容”、“所有明星都能换脸”、 “大约一个星期就可以掌握AI换脸视频制作”。

该记者在QQ中搜索“换脸”，发现“AI明星换脸”“AI换脸私人定制”等数十个QQ群，群里不少人都在售卖“AI换脸”服务。

并且，随着技术门槛的降低，越来越多的人将AI技术运用到情色片进行售卖。

据《智东西》2019 年调查，在国内，AI 换脸俨然已经形成了一个黑产产业链，上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频，也有商家做全产业链的生意。

贴吧、QQ 群等社交平台均有售卖，包括成品情色视频、售卖定制视频和售卖软件及教程等，成品情色视频价格从 2 元 1 部到 30 元 46 部、100 元 150 部和 100 元 200 部不等，视频以国内一、二线女明星为主。各大女星“被迫”下海，甚至衍生出一门黑产生意。

据悉，女明星是“AI脱衣术”的重灾区。

去年9月，有外媒报道，女演员艾玛·沃特森（Emma Watson）的30秒换脸视频在色情网站上播放超过2300万次，还有多位女明星的换脸视频被观看了数百万次，或是被换脸成为数十个色情影片的女主角，比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等。

虽然自去年以来，网信办、工信部曾多次约谈过相关APP企业进行整改，实际上效果并不明显，因为已经形成了一条完整的黑色产业链，他们不再是正规合规的公司，而是深藏于互联网深处的一股势力，为攫取利益而不择手段。

媒体报道，南都记者在一个AI换脸群内联系到了一位自称可以提供“AI影视换脸合成、换脸定制、换脸教学、成品打包、工具分享”服务的黑产人员。

该黑产人员表示，只要把原始视频素材发给他，想要换脸成哪个明星都可以。并且，该黑产人员透露，不光可以换脸明星，换脸素人也可以，只需要提供一张照片，就可以做到“如假包换”。

随后，该黑产人员给南都记者发来两段视频。南都记者发现，经换脸处理后的视频看起来非常自然，肉眼看不出破绽。

据黑产人员介绍，AI换脸不仅被用于色情内容，也被用于人脸识别。为了表明换脸效果逼真，该黑产人员透露“甚至可以过人脸识别”。

不过，黑产人员表示，并不是所有的人脸识别都可以通过，支付宝、微信、银行类App的人脸识别精度要求非常高，AI换脸达不到。但其在从事一项灰色业务——办理手机卡需要到营业厅进行实名认证，AI换脸可以骗过开卡环节中的人脸识别系统。

“AI换脸”技术引发公众担忧

如今，“AI换脸”已经变成了很多黑产盈利的工具，不法分子能让明星“AI脱衣换脸”，那么，普通大众会不会遭受此害呢？

面对愈演愈烈的“AI换脸”技术与工具，公众难免会对AI换脸滥用的担忧，什么情形下AI换脸会侵害当事人权利？如何依法规范AI换脸技术的使用？

事实上，普通人并不能与“AI换脸”绝缘。AI技术还可以演变为复仇工具。

据外媒报道，印度一名Rana Ayyub的记者因为得罪了人，很快收到了自己主演的“小电影”链接。很显然，她被用 AI换脸技术与色情片演员换了脸。对此她表示：“全印度的人都在看我主演的色情片，但是我无可奈何”。

根据今年1月1日起实施的《民法典》，换脸视频都需要以肖像权人同意为前提，否则即为侵权。而制作、复制、贩卖、传播淫秽视频，已经触犯了刑法。受害人可以依法进行维权。因此，未经当事人同意的AI换脸违法。

详细来说，《民法典》第一千零一十九条明确规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

法律另有规定的五种情形，包括为个人学习等目的在必要范围内使用、新闻报道不可避免地使用、国家机关依法为依法履行职责使用等。这意味着，无论是普通公众还是明星，除了以上这五种情形，一切其他的换脸视频都需要以肖像权人同意为前提，否则即为侵权。

法学专家深度解析“AI换脸”问题

同济大学法学院助理教授徐文海在接受人民法院报采访时，针对AI换脸事件，针对六个重点问题进行了解答。

问题一：此事件可能涉及哪些法律？

刘昊然被AI换脸事件可能涉及了民法典第一千零一十九条以及第一千零二十四条的规定，这两条分别规定了民事主体的肖像权和名誉权。

同时，该事件也可能会涉及刑法第二百四十六条规定，“以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。”

该事件正是通过信息网络捏造事实，进行诽谤，且流传甚广，严重侵犯刘昊然本人名誉权的同时也会对其造成一定的精神损害，且会产生很恶劣的社会影响，所以侵权人的行为可能构成刑法第二百四十六条规定的犯罪。刘昊然方及时报警的行为也是期待公安机关能帮助其收集有效证据进而展开进一步的维权。

问题二：AI换脸如何操作，会构成侵犯名誉权？

民法典第一千零二十四条规定：“民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。名誉是对民事主体的品德、声望、才能、信用等的社会评价。”

如何操作会构成侵犯名誉权要结合文义解释和体系解释的角度进行分析，“侮辱、诽谤等方式”就是侵犯名誉权的行为。侮辱行为是指公然以暴力、谩骂等方式公开贬损他人名誉的行为。侮辱行为包括行为方式、语言方式和文字方式，例如以文字或者图画形式辱骂他人。诽谤行为是指以散布捏造或者夸大的事实故意损害他人名誉的行为。诽谤既可以是口头诽谤，也可以是文字诽谤。

再结合体系解释，将上述的侵权行为套入民法典的侵权责任编的逻辑当中，构成侵犯名誉权要满足一般侵权行为的要件：侵害行为、行为人的过错、损害后果、行为与后果之间存在因果关系。

在换脸事件中，通过视频、图片的方式对当事人进行诽谤行为，且行为人有过错，造成当事人名誉受损，诽谤行为与损害之间有直接的因果关系，方构成侵犯名誉权。当然，这里最困难的要素在于损害后果的认定，这里面还需要区分普通人与公众人物之间应有的耐受度的差异、要区分批评与诽谤的差异。

问题三：单纯使用明星照片会不会造成法律问题？

需要分两种情况讨论，如果将“刘昊然被AI换脸”同“鞠婧祎起诉花椰菜大王二审败诉”事件进行对比的话，就能很好地解释这两种情况。需要说明的是此处的“单纯使用”的含义是指把营利目的剔除在外的，而上述两起事件中的行为人都没有营利目的。

第一种情况就是“鞠婧祎起诉花椰菜大王二审败诉”事件中被告人花椰菜并没有侵权行为，即“侮辱、诽谤等行为”，也没有捏造事实，仅仅就其妆容和服饰进行适度的评价，其文章当中的图片（无论美丑）均是鞠婧祎本人在网上自己发布或者是节目主办方发布的。

公众人物自愿将其置身于公共领域，因而置身于被中伤的危险中。这就显示“公众人物”与“普通人”在一定程度上是有区别的，需要衡平公众人物社会影响力与普通人社会影响力。

公众人物基于其社会关注度、社会地位，一般更容易接近媒体，也更容易利用媒体发挥其社会影响作用。而普通人则不然，即便在当前自媒体非常活跃的情况下，也会经常因关注度不足而难以产生较大的社会影响。

因此，当公众人物与普通人或机构因人格权而产生纠纷时，适当限制公众人物的影响力就成了理所当然的选择。但是这种限制应该在合法的范围内。

此案当中被告人花椰菜大王就是在合法合理的范围内单纯地使用了鞠婧祎的照片，最后结果就是鞠婧祎二审败诉，此处的“单纯使用”就不会造成法律问题。

第二种情况就是“刘昊然被AI换脸”事件中，行为人使用刘昊然照片的行为如果超出了合法合理的范畴，且满足了一般侵权行为要件，就算刘昊然是公众人物，行为人捏造事实、诽谤的行为超出了公众人物所负担的责任限度，其名誉权同普通人一样受到法律的保护。该事件中的“单纯使用”其实也就不是所谓的“单纯使用”。

总的来说，“单纯使用”要综合考虑行为人的目的、实施的行为方式、后果以及行为与后果之间的因果关系等一系列问题才能界定“单纯使用”是否会造成法律问题。

问题四：AI换脸技术若仅限交流并无营利行为，是否可以抗辩侵权主张？

AI换脸技术仅限交流无营利行为不能抗辩侵权主张，民法典第一千零一十九条规定，“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。”

按照以前的民法通则和相关的司法解释，构成对肖像权的侵害需要具备两个要件：一是使用肖像未经肖像权人的同意；二是以营利为目的进行使用。而民法典删除了“营利为目的”的要件。因此只要构成要件一就有可能侵犯肖像权。

而且，在这次事件中，网友已经不是简单地重现刘昊然自己公开的照片了，已经有了自己的加工，这就显然超出了公众人物应当承受的必要限度了。

问题五：网友在使用AI换脸技术时，应当注意什么？

如果网友在明知是AI换脸的情况下，利用视频、图片进行营利亦或是用侮辱、诽谤等方式进行传播，会造成法律问题。

简单说来，第一、你不能用来牟利。之前葛优躺的图片被很多公司在自己的公众号广告中使用，最后都收到了葛优方的律师函。第二、你应该用公开的照片且不能丑化再造。利用这些照片或者视频之前，你得好好想想，你想要表现的这些是不是自己捏造的？是不是想要侮辱别人的？

问题六：如何防范AI技术的滥用？

慎谈 “技术中立”，做一个事情之前谁都知道自己为什么去做。AI技术的滥用其实也不难关在笼子里，立法上并无需作出什么特别的规定，需要的反而是执法上的对应，如果可以依法处罚可能存在的违法犯罪行为，就能够有效地防范AI技术的滥用。

参考资料：

微博那些事儿：《刘昊然遭AI换脸不雅视频被贩卖，工作室报警！多名女明星曾遭AI换脸！》

人民法院报：《刘昊然遭AI换脸，六大法律疑问探讨》

南方都市报：《刘昊然报警！AI换脸成黑产，“不限内容，所有明星都能换”》

传媒圈-传媒头条：《当人们开始“丢”脸丨刘昊然卷入AI换脸风波》

青海普法：《演员刘昊然报警！皆因被用这个新技术坑了……》

齐心抗疫 与你同在

点【在看】的人最好看