网易首页 > 网易号 > 正文 申请入驻

他“复制”了女儿,她被“偷”了脸

0
分享至

久未露面的57岁著名音乐人包小柏,这两天再次进入大众视野已是一头长白发。距离他上一次成为话题人物已过去14年。彼时,他为《快乐女声》担任评委,点评辛辣、意气风发。

这次,他用AI技术在数字世界里“复活”了去世的女儿,“她”不仅可以即时回复对话,而且还在妈妈生日时唱了生日快乐歌。

同样是最近,另一群中老年网友却被AI的深度伪造伤了心。他们发现自己真心实意追了一阵的叶琳娜、娜塔莎、April安娜、艾莉儿……通通不存在。这些热爱中国文化,会说一口流利中文的俄罗斯美女博主,都是有人“偷”了一位乌克兰女孩的脸,批量生产的AI换脸数字人。

技术,再次展露出了“双刃剑”的特性。


“复活”亲人的不止是包小柏

2021年,包小柏22岁的女儿因病去世。在此前台媒的一期节目里,他首次透露自从女儿去世后,再也没有理发的原因:头发有一段曾经天天触碰女儿的额头。


包小柏透露女儿去世后没理发的原因

这两天,这段视频被翻出来,和AI“复制”女儿的报道一起在社交平台上扩散。

思女心切的包小柏这几年里攻读博士,自学AI技术,经过反复训练,如愿克隆了一个“女儿”,“对我而言,AI可以让我明确地知道,能把思念的模式换一种工具来表达。”



包小柏用AI“复活”女儿

用AI“复活”亲人,包小柏不是第一个吃螃蟹的人。1月下旬,我们曾报道过一支90后的创业团队,专门提供克隆数字人的服务,“浙江父亲想用AI复活儿子”的话题当时还冲上微博热搜榜第二。


“浙江父亲想用AI复活儿子”的话题冲上热搜

创始人张泽伟及其团队,2023年5月至今已为600多个家庭提供AI克隆服务,其中过半为失去子女的年长父母。

在张泽伟看来,团队所从事的属于“AI+情感疗愈”创业,可以缓解与逝去亲人分离的悲痛。但他同样承认技术是把双刃剑,“也有可能被坏人利用,防不胜防。”

日臻成熟的AI克隆技术,也给普通人带来了新的伦理挑战,让人不得不重新思考逝者和生者间的关系。


“复制”一个人更容易了

如果放到这轮AI浪潮前,包小柏想要“复制”一个电子女儿,几乎是不可能的事。现在,只要有充足的数据,从声音、嘴型到整张人脸都能通过深度学习算法,活灵活现地还原出来。

这两天,阿里巴巴智能计算研究所发布了一款全新的生成式AI模型EMO(Emote Portrait Alive),仅需一张人物肖像照片和音频,就可以让里面的人物按照音频内容“张嘴”唱歌、说话,且口型基本一致,面部表情和头部姿态非常自然。

再往前,一款名为HeyGen的AI肖像克隆软件因为让泰勒·斯威夫特说中文,让孙燕姿唱周杰伦的歌走红网络。用户只要上传一段30秒以上包含人声的视频,HeyGen就能模拟嗓音和表情,再与新的内容对上“口型”。


AI肖像克隆软件让泰勒·斯威夫特说中文

“他们至少用了三个小型的AI模型,分别完成翻译、语音提取和克隆、嘴型同步等功能。”看到包小柏“复制”女儿后,从事数字人研发的NextHuman唯物科技创始人吴靖仇感慨技术的进步,“当局部技术不断涌现,把它们集合在一起,就可能会出现爆款应用。”

但硬币的另一面是技术被滥用。阿里没有把EMO推向市场,已经有网友担忧它会被骗子利用,而HeyGen目前最贵的商业版本只需要72美元/月,网上到处是免费教程,意味着想要拿着它去做违法的事,成本很低。


AI视频生产过程

此前,欧洲刑警组织就发布过一份观察报告,预测到2026年,90%的在线内容可能是AI生成或者合成的。这其中就包括对照现实里某个真实人物,用深度伪造技术“复制”出来的“人”,让他做没做过的事,说没说过的话。

“从现在AI的进步速度来看,这个趋势正在加快。”吴靖仇表示,随着AI学习能力的提升,“复制”一个内容或者人,所需的数据量和时间都会进一步下降。


乌克兰女孩的脸被“偷了”

一部分网友已经被技术滥用伤了心。

俄罗斯大妞叶琳娜,在中国生活8年、能说一口流利中文的April安娜,卖俄罗斯进口食品的32岁娜塔莎,喜欢分享中国日常的艾莉儿……



网上的各种俄罗斯美女博主

过去的一两个月,只要爱逛短视频和社交平台,大概率就会刷到一些长相精致的俄罗斯美女博主。她们热爱中国文化,表示想嫁中国男人,会谈论一些争议性的热门话题,像是婚嫁的彩礼问题,聊着聊着还会推荐起俄罗斯特产。


“俄罗斯美女博主”推荐起俄罗斯特产

但她们的脸都是从一位乌克兰网红身上“偷”的。

不久前,YouTube上拥有1万多粉丝的奥尔嘉在一段近15分钟的视频中,控诉了这件事。


乌克兰女孩奥尔嘉现身谈自己的遭遇

“她们有我的脸、我的声音,且说得一口流利中文。”奥尔嘉愤怒而无奈。这些账号用AI生成的短视频内容赚取流量,为俄罗斯巧克力、糖果等特产带货。卖进口零食的娜塔莎,在账号被平台下架前已拥有超20万粉丝,远多于她本人的账号。


已被下架的俄罗斯美女博主账号

“这让人不寒而栗。”奥尔嘉说以前见过名人被模仿,从未想过自己也会深陷其中。“在这些AI生成的博主背后,作为原型的普通女性可能还不知道自己的脸被盗了,然后被用于何处。”

对此,相关平台很快采取了行动,并且强调“禁止任何以他人照片或视频进行换脸的行为”。然而,换脸的“潘多拉魔盒”已经被打开,仅靠自觉和举报,似乎无法阻挡。

去年6月10日,国家反诈中心辟谣“AI诈骗在全国爆发”,确认全国AI诈骗实施不超过10起,主要是提前制作了换脸视频,并不是实时的视频互动通话。但随着技术持续进步,相关平台和监管政策准备好了吗?

律师说法

用AI技术伪造他人肖像属于侵权行为

北京竞天公诚(杭州)律师事务所合伙人 何远

关于AI换脸侵犯肖像权的问题,我国《民法典》已做出明确规定,利用信息技术手段伪造他人的肖像,属于侵害肖像权的侵权行为。所以,从法律层面讲,大家可以放心,《民法典》已经预见这些技术的发展,规定侵害肖像权属于侵权行为,而声音属于一种独立的新型人格权,并参照肖像权提供法律保护,还规定了保护其他人格权的兜底条款。

同时,《生成式人工智能服务管理暂行办法》中明确规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、隐私权和个人信息权益。

如果你在网络上发现自己的肖像被不法侵害了,请立即采取录屏或摄像等方法固定证据,及时向侵权责任人主张权利,包括立即向网络平台发起投诉、向国家网信办违法和不良信息举报中心投诉、向人民法院起诉等。

此外,网络平台对于用户所发布的信息,是负有审核责任的。所以,如果收到被侵权人投诉后不作为,没有及时核查、删除侵权信息,平台很有可能会因为存在过错要承担相应的法律责任,比如赔礼道歉、赔偿损失等。

记者观察

新的数字鸿沟正在产生

生成式AI时代下,耳听未必为真、眼见未必为实,你接收到的文字、图片、音视频信息都可能是AI的产物。而逐渐模糊的现实边界,正在诞生新的数字鸿沟。

用AI工具生成一张美女照片,贴上“80后单亲妈妈”“每日分享自用好物”等标签,加入商品图片和介绍,这种简单而粗糙的AI美女种草/情感博主,眼下正在短视频平台上批量出现,瞄准中老年群体。

没抠好的头发丝,几乎一样的脸,循环的表情和动作,哪怕破绽多到“一眼假”,哪怕平台已经给部分作品标注了“内容疑似AI生成,请仔细甄别”,仍有大量中老年网友热情互动,并掏出真金白银。批量的美貌和廉价的情感鸡汤大有市场。




在一些AI主播账号下的网友留言

对于许多中老年人来说,智能手机和互联网还没有完全弄明白,AI就又来捣乱。他们中的大多数,可能并不具备鉴别真人和AI数字人的能力,也理不清楚新型网络诈骗是怎么回事。

今年,杭州某小学开学第一天,校长上台就讲了OpenAI的GPT和文生视频大模型Sora,等上信息课的时候,任课老师再次提及。成年人的知识体系,同样面临着更新和重构。

就在前些天,为了应对AI时代所带来的机遇与挑战,新加坡政府提议对新加坡公民给予一项补贴,支持40岁及以上的人返回高等教育。这个群体将能在5月获得额外4000元的技能创前程培训补助。

橙柿互动·都市快报记者 童蔚 梁应杰

责任编辑:李超_NB12814

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2013年,安徽大学教师郭春牛被执行死刑,行刑前痛哭与母亲告别

2013年,安徽大学教师郭春牛被执行死刑,行刑前痛哭与母亲告别

阿坷叙故事
2024-04-13 16:12:20
如何看待行政夹克“实名制”?

如何看待行政夹克“实名制”?

一枚小吏
2024-04-13 20:16:56
伊朗:约一半命中!

伊朗:约一半命中!

环球时报新闻
2024-04-14 11:10:22
新华社消息|叙利亚首都大马士革传出密集而巨大的爆炸声

新华社消息|叙利亚首都大马士革传出密集而巨大的爆炸声

新华社
2024-04-14 09:14:50
闹大了!保时捷女车主威胁整死对方:不就是20万的事,后续来了

闹大了!保时捷女车主威胁整死对方:不就是20万的事,后续来了

缘木不求娱
2024-04-13 17:17:31
与独行侠G1开打前 小卡将连休20-21天

与独行侠G1开打前 小卡将连休20-21天

直播吧
2024-04-14 08:24:41
很多上海人去排队了!这个品牌突然低至一折白菜价!有人抢了几麻袋…

很多上海人去排队了!这个品牌突然低至一折白菜价!有人抢了几麻袋…

鲁中晨报
2024-04-14 07:44:14
创造历史!张伟丽击败闫晓楠卫冕金腰带 三次被击倒险胜

创造历史!张伟丽击败闫晓楠卫冕金腰带 三次被击倒险胜

厝边人侃体育
2024-04-14 13:04:09
王牌特工在暴露前叮嘱妻子:如果我回不来,毛泽东一定会管你吃住

王牌特工在暴露前叮嘱妻子:如果我回不来,毛泽东一定会管你吃住

春去花还在
2024-04-12 19:25:49
美国官员表示:2023年俄罗斯90%的微电子产品,均来自东方大国!

美国官员表示:2023年俄罗斯90%的微电子产品,均来自东方大国!

杂谈哥闲谈
2024-04-13 23:55:59
广汽科技日放大招:全固态电池量产上车,两年后首搭昊铂

广汽科技日放大招:全固态电池量产上车,两年后首搭昊铂

南方都市报
2024-04-13 09:44:15
万科财报:向我们打开了一张社会分配的蓝图

万科财报:向我们打开了一张社会分配的蓝图

永不出场的戈多
2024-04-14 06:45:33
美国又要发飙了,过剩美元买不了中国过剩产能

美国又要发飙了,过剩美元买不了中国过剩产能

诉人世间
2024-04-14 09:16:45
马拉松再出闹剧!非洲3人组故意放水 “护送”中国名将夺冠

马拉松再出闹剧!非洲3人组故意放水 “护送”中国名将夺冠

末位侃球
2024-04-14 10:56:50
又一巨头宣告破产!账户仅剩371元......

又一巨头宣告破产!账户仅剩371元......

中国基金报
2024-04-14 00:07:19
乌克兰著名主持人节目现场突然表示,他已自愿入伍不日将走向前线

乌克兰著名主持人节目现场突然表示,他已自愿入伍不日将走向前线

探索星空
2024-04-13 19:06:44
我们被骗得好惨!抗疫英雄李兰娟院士打造了医疗公司,要冲击上市

我们被骗得好惨!抗疫英雄李兰娟院士打造了医疗公司,要冲击上市

南风西洲
2024-04-13 21:32:08
震惊!苏州大学附属第一医院招聘博士后,月薪居然是2000元起?

震惊!苏州大学附属第一医院招聘博士后,月薪居然是2000元起?

火山诗话
2024-04-14 07:28:49
美国总统拜登就伊朗袭击以色列发声明,美军设施当天未遭攻击

美国总统拜登就伊朗袭击以色列发声明,美军设施当天未遭攻击

界面新闻
2024-04-14 10:57:49
山东洋媳妇被曝涉毒,涉嫌炒作毒品合法化,官方回应严查!

山东洋媳妇被曝涉毒,涉嫌炒作毒品合法化,官方回应严查!

饭桶说史
2024-04-14 08:18:53
2024-04-14 14:24:49
都市快报橙柿互动
都市快报橙柿互动
《都市快报》订阅号
37003文章数 382494关注度
往期回顾 全部

娱乐要闻

突发!歌手朴宝蓝意外离世,年仅30岁

头条要闻

专家:以色列一旦选择与伊朗军事对抗 后果将更加严重

头条要闻

专家:以色列一旦选择与伊朗军事对抗 后果将更加严重

体育要闻

北控险胜深圳大比分1-1 萨林杰空砍37+22

财经要闻

要给万科写书回血?知名作家也清仓万科了

科技要闻

M4芯片来了,苹果AI PC的超级王炸

汽车要闻

电动奢侈品 英菲尼迪Vision Qe北京车展将首秀

态度原创

房产
亲子
艺术
公开课
军事航空

房产要闻

立法通过,五一开始施行,广州城中村改造再推进

亲子要闻

2岁半的姐姐耍脾气不肯回家,被旁边经过的1岁多的宝宝无情嘲笑

艺术要闻

步入“奇想集”:观澜国际版画收藏展 将于嘉德艺术中心开放

公开课

反抗痛苦,最好的方式就是读书

军事要闻

也门对以色列发动无人机袭击

无障碍浏览 进入关怀版