网易首页 > 网易号 > 正文 申请入驻

“蚂蚁呀嘿”App爆红下架背后:AI换脸再掀数据安全争议

0
分享至

“蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀哈哈……”近日,配以这段魔性音乐的换脸视频在各大社交平台刷屏。提供该特效的AI换脸软件Avatarify也因此火爆全网,并于2月25日登顶App Store免费软件下载榜首。不过,3月2日凌晨,该软件在App Store中国区悄然下架。

AI换脸软件引发争议已非首次。南都此前报道,2019年,换脸软件ZAO就曾因涉嫌未依法依规收集使用人脸信息被工信部约谈。今年1月起正式实施的民法典,也已将AI换脸纳入到肖像权的保护范围,明确规定不得利用信息技术手段伪造等方式侵害他人的肖像权。

爆红:“蚂蚁呀嘿”刷屏,相关视频播放量超31亿

在Avatarify导入一张人脸照片,选择相应模板,软件就能通过AI算法,自动生成一段随着节奏夸张扭动的短视频。无论是马斯克、比尔盖茨,还是唐僧师徒、还珠格格,都难逃被AI换脸后随“蚂蚁呀嘿”扭动的命运。

除了被动卷入,也有不少明星主动“换脸”。2月27日,演员甄子丹在其微博发布了一段他和吴京勾肩举杯扭动齐唱“蚂蚁呀嘿”的视频,获得吴京转发及近10万点赞。惠英红、邓紫棋、李佳琦、德云社相声演员等明星也通过社交软件纷纷参与到这场网络“AI变脸”中。

南都记者在移动应用数据分析平台七脉数据查询发现,2月中旬起,Avatarify在中国区App Store的下载量便不断攀升。2月24日0时,该软件在中国区App Store总榜(免费)排名706,当晚21时便进入前100;2月25日0时排名52(应用榜排名65),当天15时、17时便分别占据总榜、免费应用榜榜首,并持续维持领先,直至3月1日才退居应用榜第2名。

然而,3月2日2时,Avatarify在中国区App Store突然下架,且未显示原因。与此同时,App Store上,还有一批主打“蚂蚁呀嘿同款特效”甚至使用与Avatarify图标相同的App出现。

3月6日,南都记者在多个网络社交平台看到,“蚂蚁呀嘿”热度仍不减。抖音“蚂蚁呀嘿”话题下,相关视频播放量已达31亿次,微博话题“蚂蚁呀嘿视频大赛”的阅读量也已超5000万。

风险:AI换脸被指存个人隐私数据泄露、侵权等隐患

Avatarify的爆红与下架,也让AI换脸背后的数据安全争议再度引发关注。

此前,号称“仅需一张照片,出演天下好戏”的AI换脸软件“ZAO-逢脸造戏”,也曾经历过上线6天,就从爆红到被要求整改的巨大落差。

南都此前报道,2019年8月30日,ZAO上线后迅速刷屏,登上各大应用商店下载榜首位。然而,由于被质疑存在隐私协议不规范、数据泄露风险等问题,9月3日,工信部约谈ZAO的孵化团队——北京陌陌科技有限公司,要求其组织开展自查整改,强化网络数据和用户个人信息安全保护。

国内较早使用深度学习技术提供服务的广州图普科技网络公司向南都记者介绍,相对于“换脸”技术本身,安全风险更集中于人脸信息的收集、加工、存储和传输等环节。由于人脸识别具有高度的直接识别性和唯一性,因此在对人脸信息处理的过程中,存在更高的数据泄露、非法滥用、盗用等隐患。一旦App被黑客攻破,相关的用户信息就有可能流入黑产的地下数据库,被不法分子拿来获取利益。

2019年9月,长沙市反电诈中心就曾发布紧急预警,提醒市民使用AI“换脸”及类似软件风险极高,不仅可能造成个人隐私数据泄露,甚至可能被不法分子用于实施电信网络诈骗。比如,通过收集照片、视频,利用AI技术“换脸”,用伪造的照片或视频实施诈骗等。

3月5日,北京冠领律师事务所主任周旭亮接受南都记者采访时表示,AI换脸软件存在着诸多法律隐患,可能会侵犯用户的肖像权、名誉权和著作权等基本权利。

西南政法大学人工智能法学院院长陈亮介绍,AI换脸技术因其应用场景的不同也面临着不同的法律风险:“比如未经授权修改影视作品,涉嫌侵犯影视作品的著作权;在相关色情视频中的换脸,可能侵犯他人的名誉权;未经本人同意擅自使用其肖像进行换脸,可能侵犯他人的肖像权。”

中国政法大学知识产权研究中心研究员徐新明也表示,如果软件开发者没有事先取得相关素材的权利人的许可,可能构成侵权。“即便软件中的部分素材是由用户自行上传的,但是软件开发者开发者应该明知道普通用户通常是不具有版权许可的。”

规制:民法典已将AI换脸纳入肖像权保护范围

事实上,在Avatarify、ZAO面世之前,Deepfake、Deepnude等换脸应用也曾先后引发热议。AI换脸技术门槛降低的同时,对此类技术的滥用也催生了一批黑灰产业。南都记者此前调查发现,在猎趣、转转多个二手平台上,有卖家低价出售破解版换脸软件、“脱衣”软件,还有卖家打包出售通过换脸软件制作的女明星淫秽视频,并宣称提供视频定制服务。

AI换脸便利与风险并存的背后,新技术该如何监管?南都记者梳理发现,近年来国家有关部门已制定出台多项法律法规,进一步强化对此类技术应用的规制。

2019年9月,针对AI换脸等新应用带来用户隐私泄露隐忧,国家互联网信息办公室副主任刘烈宏在国新办发布会上回应,国家网信办积极支持新技术、新应用发展,同时也采取必要措施防范随之带来的风险。国家网信办已会同有关部门制定出台了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》《个人信息安全规范》等法规标准,指导督促互联网企业开展安全评估,监管上线的新技术、新应用。此外,网信办还组织开展了App违法违规收集使用个人信息专项治理,保护用户个人信息和个人隐私,维护用户合法权益。

2019年11月,国家网信办等部门联合印发《网络音视频信息服务管理规定》,要求利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施。

2019年12月,国家网信办印发《网络信息内容生态治理规定》,明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。

2021年1月起正式实施的民法典,其第1019条明确规定了肖像权的消极权能,其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”“未经肖像权人同意,不得制作、使用、公开肖像权人的肖像”的规定,被视为将AI换脸纳入到肖像权的保护范围。

民法典编纂专家、中国人民大学法学院副教授朱虎此前接受南都记者采访时透露,民法典中增加对肖像、声音的保护,正是为了回应AI换脸等深度伪造技术带来的新型社会问题并予以规制、解决,避免后续损害的发生。

采写:南都记者 刘苗 实习生 杨苓妍

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
局势彻底反转了!美国对中国芯片下狠手,不到24小时,中方接连回应,美媒坐立难安,引发舆论热议!

局势彻底反转了!美国对中国芯片下狠手,不到24小时,中方接连回应,美媒坐立难安,引发舆论热议!

林杰论事
2026-11-21 18:05:57
山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

澎湃新闻
2026-11-21 22:20:40
不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

生活新鲜市
2026-11-22 14:43:48
网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

快科技
2026-11-21 09:12:08
退休党员干部,这3种行为照样违法,有人连退休待遇都保不住!

退休党员干部,这3种行为照样违法,有人连退休待遇都保不住!

职场资深秘书
2026-11-22 20:57:26
特朗普:下个月在美迈阿密举行G20峰会,普京会参会吗?

特朗普:下个月在美迈阿密举行G20峰会,普京会参会吗?

麓谷隐士
2026-11-22 17:50:56
切尔西内讧炸锅!蓝军两大巨星当场互喷!阿隆索压不住了

切尔西内讧炸锅!蓝军两大巨星当场互喷!阿隆索压不住了

奶盖熊本熊
2026-11-22 09:10:23
西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

凡人学电脑
2026-11-20 23:39:35
俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

俄怒射117枚导弹以牙还牙!欧称:乌克兰严冬再冷,也吓不退欧洲

军机Nova
2026-11-21 00:55:32
20岁星二代崩溃:照片被放大到全网,我快疯了

20岁星二代崩溃:照片被放大到全网,我快疯了

生活观察员啊
2026-11-20 02:07:26
79岁的霍震霆自曝,每周都要去儿子家蹭饭,不为别的,就是为了看孙子和孙女,享受天伦之乐

79岁的霍震霆自曝,每周都要去儿子家蹭饭,不为别的,就是为了看孙子和孙女,享受天伦之乐

扶苏聊历史
2026-11-21 17:06:37
伏明霞:丈夫已是七旬老人儿子才满 20,嫁给百亿富翁,她后悔了吗

伏明霞:丈夫已是七旬老人儿子才满 20,嫁给百亿富翁,她后悔了吗

秋枫凋零
2026-11-22 20:02:13
内蒙古主持人孟静茹离世年仅42岁,丈夫离世半年后,她确诊患上抑郁症

内蒙古主持人孟静茹离世年仅42岁,丈夫离世半年后,她确诊患上抑郁症

可乐谈情感
2026-11-22 05:34:53
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
突然宣布结婚!今天的瓜,整个娱乐圈都羡慕不来

突然宣布结婚!今天的瓜,整个娱乐圈都羡慕不来

设计最前沿
2026-11-21 01:10:14
2-1!姆巴佩飞点,贝林厄姆破门,奇兵拯救穆帅,皇马绝杀逆转豪取9连胜

2-1!姆巴佩飞点,贝林厄姆破门,奇兵拯救穆帅,皇马绝杀逆转豪取9连胜

我的护球最独特
2026-11-22 06:15:39
毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

微野谈写作
2026-11-21 14:25:09
阿祖坑惨贝帅!广东第五外援曝光,CBA冠军中锋成首选?

阿祖坑惨贝帅!广东第五外援曝光,CBA冠军中锋成首选?

绯雨儿
2026-11-22 14:06:16
前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

阿鑫讲ai
2026-11-22 17:10:39
56岁足球名宿:当队长踢进世界杯,现是省足协副主席 已和妻子离婚

56岁足球名宿:当队长踢进世界杯,现是省足协副主席 已和妻子离婚

一娱三分地
2026-11-21 23:05:03
2026-11-23 00:23:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644739文章数 3591495关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

艺术
房产
时尚
健康
本地

艺术要闻

拉美为何盛产选美冠军:五百年混血底色与一条选美流水线

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

医生眼里"很伤腰"的椅子,很多人天天坐

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版