网易首页 > 网易号 > 正文 申请入驻

“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!

0
分享至

原标题:“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!

“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。然而,这项新技术,却让一些人产生了不良想法,杭州的虞某就利用“AI换脸”软件生成大量淫秽视频进行传播,被换脸的有不少女明星等公众人物,虞某甚至还提供换脸定制服务。

“AI换脸”伪造女明星涉黄视频

2022年8月,杭州市萧山警方在网上巡查中获取一条线索,辖区内有人利用AI技术制作淫秽视频在网上进行大量传播,警方依法对此立案侦查,并迅速抓获了犯罪嫌疑人虞某,随后该案被移送至杭州市萧山区人民检察院审查起诉。


杭州市萧山区人民检察院检察委员会专职委员 章蕾:虞某通过在互联网上发现了有一个AI换脸的技术软件,他自己通过学习这个软件,掌握了使用技能,从此开始利用AI换脸的技术去牟利。


检察机关调查发现,虞某从2020年开始接触“AI换脸”软件,起初,他想通过在网上推广该项技术以及相关的软件来获利,但是,一段时间过后关注他的人却很少,一次偶然的机会,虞某看到有人在社交群组中发布淫秽信息来吸引他人关注,于是他也动起了类似念头。


杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧:他可能发现仅仅通过贩卖软件的方式,可能很难获取到一般人的关注。因为他在网络上看到有一些网络群组在传播一些淫秽色情视频,他就想到说通过换脸软件制作一些淫秽色情视频,然后先放在互联网群组上,从而吸引流量,吸引大家来关注这个软件或者换脸视频。


据虞某供述,为了吸引更多的关注和流量,他在社交软件上创建了“浏览群”和“私人定制群”,“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者,其中包括一些经过虞某换脸的视频,当有人提出“定制换脸”的需求,虞某会将这些人引入所谓“私人定制群”。


杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧:通过收取入(浏览)群费用的方式,一个198元、298元或者398元。另外一个就是虞某还提供人脸视频定制服务,相当于客户如果需要定制一个换脸的视频,他可以根据时长,根据视频的难度大小收取相应的费用。

私人定制→“只要能看到脸的都能换”

据检察机关调查,虞某一边通过传播换脸的淫秽视频来“吸粉引流”,同时又通过出售“AI换脸”软件和提供所谓“AI换脸”的私人定制服务,在不到半年的时间里就获利数万元。而被“AI换脸”侵害人脸敏感信息的受害者,不仅包括多位知名公众人物,还有很多不特定的普通人。

据检察机关调查,虞某根据“AI换脸”视频的长度、清晰度等难易条件,按照5分钟300元、10分钟500元等标准来收取定制的费用。虞某声称,“只要能看到脸的都能换”。


杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧:首先这个价格也是他自己定的,再一个初级、中级、高级,可能在这个视频最后完成换脸的效果上有一定的区别。有些人可能一开始购买了初级的教程,初级的一些素材和材料,发现最后达到的效果不能达到他所期望的效果,那么有可能会继续付费去购买一些高级的视频,包括高级教程。


杭州市萧山区人民检察院检察委员会专职委员 章蕾:他通过VIP定制,就是客户提要求“我今天想要把脸换成是谁的脸,你帮我定制一下,我支付相应的报酬”,通过这样牟利的方式。

“定制”换脸对象既有公众人物也有普通人


据检察机关了解,虞某的客户要求“定制”换脸的对象不仅包括一些知名的公众人物,也有生活中的普通人,其中就有人提出想要定制自己暗恋女生的换脸视频,而对于这些未经同意就擅自侵犯他人敏感信息的违法行为,虞某也是来者不拒。


另外,虞某除了进行定制化的换脸服务,还将“AI换脸”软件分为初级、中级和高级三个等级进行销售并传授使用教程,同时还提供网上非法收集的他人人脸素材。

杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧:这个软件的入门的门槛其实是比较低的,它的操作相当于通过一些已经设定好了的运行的程序和代码,相当于我只要按照你的步骤,把需要进行换脸的视频放在它规定的一个文件夹里,或者是按照步骤来进行操作,它自动对你所要替换的人脸视频里面的人脸信息,或者照片里的信息是自动提取,自动建立学习模型进行学习,然后下一步是自动进行合成的。


据检察机关收集的证据显示,虞某创建的众多社交群组中,最少的成员95人,最多的成员达2053人,通过销售换脸淫秽视频以及定制换脸淫秽视频等违法行为,虞某先后收取口令红包200余次,总金额共计6万余元。

除追究刑责

检察机关还提起民事公益诉讼

检察机关认为,作为“AI换脸”技术的使用者,虞某通过传播侵犯公民个人信息的方法和手段,使得更多“不特定主体”个人信息被侵害的社会危险性进一步扩大。因此,杭州市萧山区人民检察院在依法追究虞某刑事责任外,同时还提起民事公益诉讼。2023年7月,杭州互联网法院对这起公益诉讼案进行审理,这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。

2023年4月14日,杭州萧山区人民检察院决定对虞某“AI换脸”侵犯公民个人信息公益诉讼案立案,当日履行公告程序,公告期满,无适格主体提起诉讼。6月9日,检察机关依法对虞某提起民事公益诉讼。7月28日,该案在杭州互联网法院一审公开审理。


在庭审中,检察机关出示了虞某侵犯公民个人信息、损害社会公共利益的详细证据,包括公安机关对虞某所作的讯问、询问笔录、勘验记录、检查记录、鉴定意见,以及淫秽视频1200多部、图片1600多张等电子数据。


杭州互联网法院互联网审判第一庭庭长 肖芄:过去我们常常认为眼见为实,耳听为实,但是随着深度合成技术以及新技术的运用,我们眼见也不一定为实,新技术的不当应用或者是一种滥用,实际上冲击了我们社会公众主体相互之间的信任关系,特别是在互联网空间这样一种建立起来的信任关系。那么对于这种信任关系、社会关系的一种侵害,其实本身也是对社会秩序的一种损害。


杭州互联网法院经审理认为,虞某利用“AI换脸”技术侵犯公民个人信息的违法事实确凿,因此支持检察机关作为公益诉讼起诉人的全部诉讼请求:判令被告虞某删除非法获取的个人信息,公开赔礼道歉、消除影响并赔偿损失共60000元,这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。


杭州互联网法院常务副院长 朱敏明:任何一项新技术,首先这个技术它总是有中立性的,那么在技术本身我们是持接纳支持的这种态度,但是技术开发应用的目的,它必须是有利于全人类的公益,不能是为了这个技术,用于个人的非法牟利,然后侵犯其他公民、集体、国家、社会的合法权益,一旦越界了就要承担相应的责任。那么这个案子中因为由检察院来提起公益诉讼,然后法院来依法审判,充分发挥审判司法职能对新技术的规范。

技术无善恶但有边界

须在法律规制内使用

2023年11月,杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪,判处有期徒刑七年三个月,并处罚金6万元。

“仅凭几张照片,任何人都可能成为受害者。” 从网络主播换脸女明星直播带货,再到换脸被嫁接到淫秽视频中,滥用“AI换脸”技术实施各类侵犯个人信息的行为时有发生,甚至在灰色领域甚至违法犯罪领域滥用。那么,“AI换脸”技术的法律边界在哪里,又该如何规范和治理呢?

杭州互联网法院互联网审判第一庭庭长 肖芄:我们国家的民法典对于侵害他人,通过深度伪造方式侵害他人人身权益是有明确的规定的,禁止通过深度合成的方式去侵害公民的人身财产权益,这是民法典的规定。随着技术的发展,个人信息保护法对于深度合成也有相关的规定,因为不管是面部的一个替换还是声音的替换,它实际上都需要收集公民的个人信息,那么这些都是属于个人信息保护法特别保护的敏感的生物识别信息。


我国目前除了“民法典”“个人信息保护法”,2023年正式实施的《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》中也明确规定,强调使用者不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者要落实信息安全主体责任。

注意!“AI换脸”用来搞笑也存法律风险

法官认为, “AI换脸”技术即便只是用来搞笑或者制作恶搞照片,也有可能涉及侵犯肖像权、名誉权,造成严重后果的,还可能构成侮辱罪或者诽谤罪。

而“AI换脸”技术的滥用,看似是对被侵害的个人的人格权、肖像权、名誉权、隐私权的侵害,实际上更是对社会公序良俗的践踏,是对稳定的社会环境和清朗的网络空间的挑战。


杭州互联网法院常务副院长 朱敏明:一项新技术的产生往往专门针对这项新技术的法律法规会有所滞后,但是总的来说我们现在国家整个的法治体系已经相当完善,每个人你哪些行为是可以做的,哪些行为是不可以做的,它的原则性规定都是已经比较健全了。我想正常人都是能够判断得出来的,你去运用这项新技术,你的目的是有益于整个人类,有利于就是人民生活水平的提升,福祉的提升,还是说为了个人谋取不当的利益。那么我就想把握好这个界限,这些新技术都是能够为我们美好生活服务的。

(总台央视记者 张岗 李志贵)

来源:央视新闻客户端

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上交大应届生转正12天因言论不当被辞退,网友:不冤,为幼稚买单

上交大应届生转正12天因言论不当被辞退,网友:不冤,为幼稚买单

东东趣谈
2024-05-23 18:14:32
爆料辽宁队夺冠奖金分配曝光,杨鸣和韩德君最多,郭艾伦躺赢百万

爆料辽宁队夺冠奖金分配曝光,杨鸣和韩德君最多,郭艾伦躺赢百万

宗介说体育
2024-05-23 18:14:07
网友医院收费处目睹心酸一幕:年轻夫妇抱着婴儿,因少了236元无法缴费!

网友医院收费处目睹心酸一幕:年轻夫妇抱着婴儿,因少了236元无法缴费!

六子吃凉粉
2024-05-23 21:41:57
中外舆论出现大反转

中外舆论出现大反转

智先生
2024-05-23 21:09:08
建湖一男子送父亲异地治病被抢走手机车票!派出所长:领导命令!

建湖一男子送父亲异地治病被抢走手机车票!派出所长:领导命令!

兵叔评说
2024-05-23 08:21:06
众星转发“台湾不是一个国家”,蔡依林等人沉默:台艺人都哑了?

众星转发“台湾不是一个国家”,蔡依林等人沉默:台艺人都哑了?

拾娱先生
2024-05-22 23:25:35
乌精确斩首,俄上将司令被炸死,美防长拉姆施泰因会议上慷慨激昂

乌精确斩首,俄上将司令被炸死,美防长拉姆施泰因会议上慷慨激昂

史政先锋
2024-05-22 19:30:31
快来看!今年养老金将提低限高?调整通知公布了吗?

快来看!今年养老金将提低限高?调整通知公布了吗?

小毅讲历史
2024-05-23 07:35:05
纽约时报爆猛料:马斯克与谷歌创始人前妻一起吸毒并发生性关系

纽约时报爆猛料:马斯克与谷歌创始人前妻一起吸毒并发生性关系

手机中国
2024-05-23 10:02:11
闹大了!乐清交警暴力执法后续:交警已被停职,身份被扒不简单

闹大了!乐清交警暴力执法后续:交警已被停职,身份被扒不简单

180°视角
2024-05-22 15:47:01
上海总和生育率仅0.6!低于韩国!全市600万育龄女性,仅376万女性生育孩子

上海总和生育率仅0.6!低于韩国!全市600万育龄女性,仅376万女性生育孩子

可达鸭面面观
2024-05-23 17:35:19
江西29岁女子被父母催婚,网友看到照片后懵了,“可遇不可求”

江西29岁女子被父母催婚,网友看到照片后懵了,“可遇不可求”

四象八卦
2024-05-23 20:25:39
伊朗总统座机失事后,飞行员的电话为何接通?

伊朗总统座机失事后,飞行员的电话为何接通?

中国新闻周刊
2024-05-23 19:04:10
国家已经很不容易了!希望全体中国人认清形势,不要再人云亦云

国家已经很不容易了!希望全体中国人认清形势,不要再人云亦云

星辰故事屋
2024-05-22 20:15:28
到台湾我才知道,普通百姓生活和内地相比,区别很大

到台湾我才知道,普通百姓生活和内地相比,区别很大

兰子记
2024-05-23 22:05:56
中国一旦进入战争,这些数字告诉你,只有一个结论:缴械投降

中国一旦进入战争,这些数字告诉你,只有一个结论:缴械投降

蓝婉莹
2024-05-12 02:22:39
加征关税实属无奈之举,一辆八万元的比亚迪海鸥引发的蝴蝶效应

加征关税实属无奈之举,一辆八万元的比亚迪海鸥引发的蝴蝶效应

大老客
2024-05-21 16:12:23
为什么中年女人不喜欢去宾馆,倾向于去车里,过来人实话实说

为什么中年女人不喜欢去宾馆,倾向于去车里,过来人实话实说

好笑娱乐君每一天
2024-05-23 20:55:06
王室又发布凯特新照片了,凯特身穿红色上衣,白色打底,有点累

王室又发布凯特新照片了,凯特身穿红色上衣,白色打底,有点累

亦纯杂谈
2024-05-23 18:03:22
动真格了!50位不表明立场艺人被拉表,五月天杨丞琳王心凌上榜

动真格了!50位不表明立场艺人被拉表,五月天杨丞琳王心凌上榜

叶二娱评
2024-05-23 19:22:46
2024-05-24 05:58:44
中工网
中工网
亿万职工的网上精神家园
139948文章数 11009关注度
往期回顾 全部

头条要闻

奥迪车主称每次启动车辆就会显示"续费弹窗" 客服回应

头条要闻

奥迪车主称每次启动车辆就会显示"续费弹窗" 客服回应

体育要闻

欧文,三十二而立

娱乐要闻

大S儿子被学校退学,张兰称孙子没人管

财经要闻

九鼎金租减值罗生门:郑州银行藏雷?

科技要闻

黄仁勋业绩会万字实录:我们的压力太大了

汽车要闻

上汽大通大家7超混/大家9超混将于6月7日正式上市

态度原创

亲子
艺术
健康
旅游
房产

亲子要闻

这一瞬间,她又变成了小时候的模样

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

在中国,到底哪些人在吃“伟哥”?

旅游要闻

日本航空飞机在羽田机场地面与其他飞机发生接触

房产要闻

信号!海南这个区域开始鼓励企业购买安居房!

无障碍浏览 进入关怀版