网易首页 > 网易号 > 正文 申请入驻

他“复制”了女儿,她被“偷”了脸

0
分享至

久未露面的57岁著名音乐人包小柏,这两天再次进入大众视野已是一头长白发。距离他上一次成为话题人物已过去14年。彼时,他为《快乐女声》担任评委,点评辛辣、意气风发。

这次,他用AI技术在数字世界里“复活”了去世的女儿,“她”不仅可以即时回复对话,而且还在妈妈生日时唱了生日快乐歌。

同样是最近,另一群中老年网友却被AI的深度伪造伤了心。他们发现自己真心实意追了一阵的叶琳娜、娜塔莎、April安娜、艾莉儿……通通不存在。这些热爱中国文化,会说一口流利中文的俄罗斯美女博主,都是有人“偷”了一位乌克兰女孩的脸,批量生产的AI换脸数字人。

技术,再次展露出了“双刃剑”的特性。


“复活”亲人的不止是包小柏

2021年,包小柏22岁的女儿因病去世。在此前台媒的一期节目里,他首次透露自从女儿去世后,再也没有理发的原因:头发有一段曾经天天触碰女儿的额头。


包小柏透露女儿去世后没理发的原因

这两天,这段视频被翻出来,和AI“复制”女儿的报道一起在社交平台上扩散。

思女心切的包小柏这几年里攻读博士,自学AI技术,经过反复训练,如愿克隆了一个“女儿”,“对我而言,AI可以让我明确地知道,能把思念的模式换一种工具来表达。”



包小柏用AI“复活”女儿

用AI“复活”亲人,包小柏不是第一个吃螃蟹的人。1月下旬,我们曾报道过一支90后的创业团队,专门提供克隆数字人的服务,“浙江父亲想用AI复活儿子”的话题当时还冲上微博热搜榜第二。


“浙江父亲想用AI复活儿子”的话题冲上热搜

创始人张泽伟及其团队,2023年5月至今已为600多个家庭提供AI克隆服务,其中过半为失去子女的年长父母。

在张泽伟看来,团队所从事的属于“AI+情感疗愈”创业,可以缓解与逝去亲人分离的悲痛。但他同样承认技术是把双刃剑,“也有可能被坏人利用,防不胜防。”

日臻成熟的AI克隆技术,也给普通人带来了新的伦理挑战,让人不得不重新思考逝者和生者间的关系。


“复制”一个人更容易了

如果放到这轮AI浪潮前,包小柏想要“复制”一个电子女儿,几乎是不可能的事。现在,只要有充足的数据,从声音、嘴型到整张人脸都能通过深度学习算法,活灵活现地还原出来。

这两天,阿里巴巴智能计算研究所发布了一款全新的生成式AI模型EMO(Emote Portrait Alive),仅需一张人物肖像照片和音频,就可以让里面的人物按照音频内容“张嘴”唱歌、说话,且口型基本一致,面部表情和头部姿态非常自然。

再往前,一款名为HeyGen的AI肖像克隆软件因为让泰勒·斯威夫特说中文,让孙燕姿唱周杰伦的歌走红网络。用户只要上传一段30秒以上包含人声的视频,HeyGen就能模拟嗓音和表情,再与新的内容对上“口型”。


AI肖像克隆软件让泰勒·斯威夫特说中文

“他们至少用了三个小型的AI模型,分别完成翻译、语音提取和克隆、嘴型同步等功能。”看到包小柏“复制”女儿后,从事数字人研发的NextHuman唯物科技创始人吴靖仇感慨技术的进步,“当局部技术不断涌现,把它们集合在一起,就可能会出现爆款应用。”

但硬币的另一面是技术被滥用。阿里没有把EMO推向市场,已经有网友担忧它会被骗子利用,而HeyGen目前最贵的商业版本只需要72美元/月,网上到处是免费教程,意味着想要拿着它去做违法的事,成本很低。


AI视频生产过程

此前,欧洲刑警组织就发布过一份观察报告,预测到2026年,90%的在线内容可能是AI生成或者合成的。这其中就包括对照现实里某个真实人物,用深度伪造技术“复制”出来的“人”,让他做没做过的事,说没说过的话。

“从现在AI的进步速度来看,这个趋势正在加快。”吴靖仇表示,随着AI学习能力的提升,“复制”一个内容或者人,所需的数据量和时间都会进一步下降。


乌克兰女孩的脸被“偷了”

一部分网友已经被技术滥用伤了心。

俄罗斯大妞叶琳娜,在中国生活8年、能说一口流利中文的April安娜,卖俄罗斯进口食品的32岁娜塔莎,喜欢分享中国日常的艾莉儿……



网上的各种俄罗斯美女博主

过去的一两个月,只要爱逛短视频和社交平台,大概率就会刷到一些长相精致的俄罗斯美女博主。她们热爱中国文化,表示想嫁中国男人,会谈论一些争议性的热门话题,像是婚嫁的彩礼问题,聊着聊着还会推荐起俄罗斯特产。


“俄罗斯美女博主”推荐起俄罗斯特产

但她们的脸都是从一位乌克兰网红身上“偷”的。

不久前,YouTube上拥有1万多粉丝的奥尔嘉在一段近15分钟的视频中,控诉了这件事。


乌克兰女孩奥尔嘉现身谈自己的遭遇

“她们有我的脸、我的声音,且说得一口流利中文。”奥尔嘉愤怒而无奈。这些账号用AI生成的短视频内容赚取流量,为俄罗斯巧克力、糖果等特产带货。卖进口零食的娜塔莎,在账号被平台下架前已拥有超20万粉丝,远多于她本人的账号。


已被下架的俄罗斯美女博主账号

“这让人不寒而栗。”奥尔嘉说以前见过名人被模仿,从未想过自己也会深陷其中。“在这些AI生成的博主背后,作为原型的普通女性可能还不知道自己的脸被盗了,然后被用于何处。”

对此,相关平台很快采取了行动,并且强调“禁止任何以他人照片或视频进行换脸的行为”。然而,换脸的“潘多拉魔盒”已经被打开,仅靠自觉和举报,似乎无法阻挡。

去年6月10日,国家反诈中心辟谣“AI诈骗在全国爆发”,确认全国AI诈骗实施不超过10起,主要是提前制作了换脸视频,并不是实时的视频互动通话。但随着技术持续进步,相关平台和监管政策准备好了吗?

律师说法

用AI技术伪造他人肖像属于侵权行为

北京竞天公诚(杭州)律师事务所合伙人 何远

关于AI换脸侵犯肖像权的问题,我国《民法典》已做出明确规定,利用信息技术手段伪造他人的肖像,属于侵害肖像权的侵权行为。所以,从法律层面讲,大家可以放心,《民法典》已经预见这些技术的发展,规定侵害肖像权属于侵权行为,而声音属于一种独立的新型人格权,并参照肖像权提供法律保护,还规定了保护其他人格权的兜底条款。

同时,《生成式人工智能服务管理暂行办法》中明确规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、隐私权和个人信息权益。

如果你在网络上发现自己的肖像被不法侵害了,请立即采取录屏或摄像等方法固定证据,及时向侵权责任人主张权利,包括立即向网络平台发起投诉、向国家网信办违法和不良信息举报中心投诉、向人民法院起诉等。

此外,网络平台对于用户所发布的信息,是负有审核责任的。所以,如果收到被侵权人投诉后不作为,没有及时核查、删除侵权信息,平台很有可能会因为存在过错要承担相应的法律责任,比如赔礼道歉、赔偿损失等。

记者观察

新的数字鸿沟正在产生

生成式AI时代下,耳听未必为真、眼见未必为实,你接收到的文字、图片、音视频信息都可能是AI的产物。而逐渐模糊的现实边界,正在诞生新的数字鸿沟。

用AI工具生成一张美女照片,贴上“80后单亲妈妈”“每日分享自用好物”等标签,加入商品图片和介绍,这种简单而粗糙的AI美女种草/情感博主,眼下正在短视频平台上批量出现,瞄准中老年群体。

没抠好的头发丝,几乎一样的脸,循环的表情和动作,哪怕破绽多到“一眼假”,哪怕平台已经给部分作品标注了“内容疑似AI生成,请仔细甄别”,仍有大量中老年网友热情互动,并掏出真金白银。批量的美貌和廉价的情感鸡汤大有市场。




在一些AI主播账号下的网友留言

对于许多中老年人来说,智能手机和互联网还没有完全弄明白,AI就又来捣乱。他们中的大多数,可能并不具备鉴别真人和AI数字人的能力,也理不清楚新型网络诈骗是怎么回事。

今年,杭州某小学开学第一天,校长上台就讲了OpenAI的GPT和文生视频大模型Sora,等上信息课的时候,任课老师再次提及。成年人的知识体系,同样面临着更新和重构。

就在前些天,为了应对AI时代所带来的机遇与挑战,新加坡政府提议对新加坡公民给予一项补贴,支持40岁及以上的人返回高等教育。这个群体将能在5月获得额外4000元的技能创前程培训补助。

橙柿互动·都市快报记者 童蔚 梁应杰

责任编辑:李超_NB12814

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
在菲律宾部署中导后,美军转头赫然发现:055大驱已前出东印度洋

在菲律宾部署中导后,美军转头赫然发现:055大驱已前出东印度洋

域观天下
2024-04-23 09:48:47
石家庄楼市全军覆没,石家庄桥西区从16000元降至12000元分析

石家庄楼市全军覆没,石家庄桥西区从16000元降至12000元分析

有事问彭叔
2024-04-22 15:57:13
广州楼市全军覆没,广州天河区从6.5万降至5.1万,广州楼市分析

广州楼市全军覆没,广州天河区从6.5万降至5.1万,广州楼市分析

有事问彭叔
2024-04-22 15:53:53
一个月内,金壮龙两度南下,和王晓晖、徐麟出席重要活动

一个月内,金壮龙两度南下,和王晓晖、徐麟出席重要活动

政知新媒体
2024-04-22 20:35:16
周鸿祎点评哪吒发布会张勇演讲:超水平发挥,但要思考雷军会怎么讲

周鸿祎点评哪吒发布会张勇演讲:超水平发挥,但要思考雷军会怎么讲

三言科技
2024-04-22 23:06:09
罕见!突发暴跌

罕见!突发暴跌

中国基金报
2024-04-23 08:19:50
晋级概率为0!恩比德别哭了,巴克利赛后怒斥,哈登魔咒影响三队

晋级概率为0!恩比德别哭了,巴克利赛后怒斥,哈登魔咒影响三队

巴叔GO聊体育
2024-04-23 12:27:07
古稀老妇,为满足畸形的欲望,上演了一起伦理悲剧,最终咎由自取

古稀老妇,为满足畸形的欲望,上演了一起伦理悲剧,最终咎由自取

和风润雨
2024-04-21 20:35:58
全线急跌,这次真的是“货币战争”了,而东方大国却赢了一把

全线急跌,这次真的是“货币战争”了,而东方大国却赢了一把

视知产研院
2024-04-22 21:36:24
公子小姐回国建设祖国了!上海公务员录取名单:尽是一年制水硕

公子小姐回国建设祖国了!上海公务员录取名单:尽是一年制水硕

大风文字
2024-04-21 13:16:30
黄金大跌创近两年最大跌幅

黄金大跌创近两年最大跌幅

法制社会报
2024-04-23 12:29:22
神秘的换妻游戏,背后组织者身份曝光真相令人心痛不已

神秘的换妻游戏,背后组织者身份曝光真相令人心痛不已

小鱼滑
2024-04-20 02:05:06
他是比肩钱钟书的天才,却被灌污水整死了

他是比肩钱钟书的天才,却被灌污水整死了

谢小楼
2024-04-22 16:19:01
中国抛出美债后,逼出幕后接盘侠,俄罗斯:果然是他在支持美国!

中国抛出美债后,逼出幕后接盘侠,俄罗斯:果然是他在支持美国!

爱看剧的阿峰
2024-04-19 07:30:27
眼角粘星星,比赛服装和别人不同,吴艳妮总引争议,不愧田径顶流

眼角粘星星,比赛服装和别人不同,吴艳妮总引争议,不愧田径顶流

体育大学僧
2024-04-23 12:55:07
中央定调:2024年70岁及以上老人可享“3项优待”,包括农民在内

中央定调:2024年70岁及以上老人可享“3项优待”,包括农民在内

天下纵览
2024-04-13 12:39:22
俄灾民怒斥市长:我丈夫已牺牲,你儿子在迪拜,不感到羞愧吗?

俄灾民怒斥市长:我丈夫已牺牲,你儿子在迪拜,不感到羞愧吗?

娱乐圈见解说
2024-04-22 16:34:31
劳东燕:压力端转移到最为弱势的群体,发生恶性刑事案件是迟早的事

劳东燕:压力端转移到最为弱势的群体,发生恶性刑事案件是迟早的事

吴女士
2024-04-22 11:54:15
1951年金山前往朝鲜,出轨金日成秘书,后与妻子孙维世的妹妹结婚

1951年金山前往朝鲜,出轨金日成秘书,后与妻子孙维世的妹妹结婚

让时间说真话
2024-04-21 21:18:23
好家伙!《哈尔滨一九四四》开播差评一片,观众差评理由出奇一致

好家伙!《哈尔滨一九四四》开播差评一片,观众差评理由出奇一致

娱乐无烦事
2024-04-22 14:12:59
2024-04-23 15:40:49
都市快报橙柿互动
都市快报橙柿互动
《都市快报》订阅号
37134文章数 382691关注度
往期回顾 全部

娱乐要闻

赵丽颖晒照似初恋,拍照疑与儿子分享

头条要闻

女大学生商场做"代购"兼职被抓 警方提醒注意洗钱陷阱

头条要闻

女大学生商场做"代购"兼职被抓 警方提醒注意洗钱陷阱

体育要闻

快船独行侠G1:猛踹瘸子那条好腿

财经要闻

千元“特供”酒 猫腻有几何

科技要闻

Meta宣布开放这一系统,自比安卓对抗苹果

汽车要闻

哪吒首款大五座SUV 哪吒L售价12.99万起

态度原创

数码
艺术
健康
家居
教育

数码要闻

索尼推出新一代可穿戴空调 REON POCKET 5,套装售 1499 港元

艺术要闻

蔚为大观,书香盛宴再启航!第三届嘉德国际艺术图书展正在呈现

这2种水果可降低高血压死亡风险

家居要闻

光影之间 空间暖意打造生活律动

教育要闻

论老师的表情管理有多强,“还不坐好”后秒切温柔微笑

无障碍浏览 进入关怀版