网易首页 > 网易号 > 正文 申请入驻

“AI复活”引热议 边界在哪?

0
分享至



  随着大模型、人工智能技术的发展,一些AI技术的运用逐渐走向更多行业。几张照片几段音频就能够“复活”亲人。

  今年清明节,“AI复活”走向了大众视野。

  记者搜索发现,“AI复活”正逐渐发展成为一门生意,网络上不少商家向消费者提供此服务,还顺带销售教程,“授人以鱼,也授人以渔”。有的人从中感受到慰藉,有的人却颇感失落。有的人认为这大有益处,也有人保持警惕。律师提醒其中带有法律风险,呼吁加强监管。专家学者表示,当前被运用的技术仍显得传统,未来将有更逼真的效果。

  当前,大众对“AI复活”的态度如何?隐藏的法律风险在哪?它的边界在哪?南都记者就此展开了调查。

  现象

  已逝明星被“AI复活”引争议

  低至数元便能“复活”成生意

  “你们好吗,我是CoCo李玟,我知道你们可能会感到惊讶,甚至有些不真实。在我离开这个世界的那一刻起,我一直能感受到你们无尽的爱与支持……”视频中的“李玟”坐在镜头前,对粉丝诉说着暖心话语。这段“逼真”的视频实际由AI生成,在社交平台上被广泛传播。

  3月28日,已故知名歌手李玟的母亲委托广东梦海律师事务所就部分网络用户制作、传播“AI复活李玟”相关短视频事宜,公开发布了一则律师声明。声明称,根据已掌握的证据资料显示,近期部分网络用户未经李玟女士近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,以温情之名非法牟利,借机售卖AI服务、恶意转评引流推广个人业务。此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰,同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。严正警告涉嫌侵权责任人,于本声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。

  不仅仅是李玟。被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人均表示对此不能接受。“他们未征求我们同意,这是在揭伤疤。”乔任梁父亲在接受媒体采访时说道。

  仅凭照片和音视频便能“复活”已逝之人,图谋利的商家用这技术在网络上做起了相关的生意。在多个电商平台,记者以“AI复活”为关键词,有多个链接弹出,价格在几元至万元不等。记者注意到,这些链接大多以看起来是老年人的照片为封面,且标注着“怀念亲人”“照片开口说话”等,有销量高的链接里显示,一周内500+人已买,超500人加购。而在评论区,有人认为视频非常不错,也有人表示视频有些吓人。

  记者随机询问了几位商家,有商家表示,主页展示的视频使用的是数字人,商品具体价格要根据要求来定,如果只是让照片里的人动起来,仅需提供正面照。如果想要让照片里的人说话,则需提供正面照片和音频。如果没有音频,商家给配固定AI声音,且均需自行提供文本。商家还强调,动态照片开口说话只用于怀念亲人,其他用途勿扰。

  还有商家链接上有“教程教学”的选项,客服表示,若是要进行教学则需要交费1500元,“会教你怎么制作视频,让照片动起来说话。”但更多的内容,则不愿意多说。  

  商家

  在助人中发现商机 提供资料越多越真实

  2023年5月,老尧(化名)开始正式进入这个行业。他告诉记者,原本他就学习过AI算法。去年,老尧一个朋友的父亲去世,他就用“AI复活”这个技术先帮朋友实现了“复活”父亲。“后来我发现这是一个可以帮助别人的事情,又能够成为一个商机,所以就慢慢进入这个行业。”

  老尧介绍,现在他提供的“AI复活”服务主要是将逝者的照片与还原后的音频结合,让照片中的人物嘴巴动起来,说出逝者的亲人想要听到的逝者留下的话。想要实现这样的“复活”,需要客户提供足够的素材。首先逝者的声音是必须的,若是想要达到更好的还原效果,则需提供至少一分钟的清晰音频;照片也最好是清晰无遮挡的,但若只提供照片,就只能在照片的基础上让人物动起来,效果不是太好,如果能提供逝者的视频,那可能可以做成更加真实的数字人。“但是我接触了很多的客户,基本上没有能提供大量视频素材来进行数字人还原的,因为不会想到这一步,所以没有在亲人生前录这么多的素材。”

  “我会先把客户亲人的声音还原出来,然后根据客户给我的想要自己亲人说的一段话,和给的照片一起,做音频和嘴唇张合的匹配。”老尧说客户会觉得“复活”的亲人不够真实,因为技术实现的复活不能还原客户心中亲人还在世时的形象,所以只能作为一种缅怀的方式。但他提到最近又出现了一些新技术,能够让照片中的人物在说话的同时整个身子跟着一起动,就不会像之前只是照片中人物的嘴唇动而显得那么生硬,会显得更真实。

  基于对逝者音频的处理还原,以及和客户长时间沟通以便满足客户心中想要实现的“复活”效果,老尧提供的“AI复活”服务一直是520元的定价。

  找老尧“复活”亲人的客户中有亲人是最近离世的,也有离世几年甚至更久的,但大多是看到老尧在社交平台上发的一些“复活”作品后才联系他。老尧表示,他的大多数客户“复活”亲人都是想在家庭聚会的时候给家人们看,让整个家庭的人一起怀念逝者,并得到一定的安慰。“尤其是去年过年期间,这个需求比较大。”而清明节将至,找老尧实现“AI复活”的人并没有增多。  

  市民

  有赞有弹 六成受访者持中立态度

  近日,南都记者在网络上发起有关“AI复活”的问卷调查,其中82.02%的受访者知道“AI复活”技术,但只有37.08%的受访者表示愿意用AI“复活”自己的亲人,且有超半数的受访者对这项技术运用持中立态度。担心这项技术“对道德伦理有挑战”“有泄露隐私的风险”以及“有实施诈骗的风险”的人数比例相近。

  “AI复活”不仅在网上引起很大的争议,在现实中也有很多人持不同的看法。

  小柯(化名)觉得使用“AI复活”亲人事情很可怕,“虽然能理解别人为什么要用AI复活亲人,但毕竟是一种技术建构起来的幻觉,我是不太接受的。”她认为那些致力于复活亲人的人无所谓生活在真实还是幻想中。而且技术总是反过来会对创造其的人有反作用,现在也有显现出来一些迹象了,“我不太希望这些东西打扰到正常人的生活。”

  小付(化名)也对“AI复活逝者”持反对态度。她认为既然逝者已经离世了,即使在世的人很想念逝者,但是“复活”出来的那个“数字人”并不是她记忆中那个活生生的亲人,而且现在的技术完全达不到“复活”的那个程度。“利用‘AI复活’出来的形象一点都不真实,很像是被模拟出来的数字玩偶。”并且她认为这样的“复活”没有考虑过逝者的意愿。如果从她的角度出发,她不会愿意自己离世之后被“复活”成为一个没有灵魂的数字人。

  而刘小姐则认为如果是在逝者的葬礼上使用“AI复活”的逝者形象,是对生者一种心理上的寄托,虽然留给生者的寄语不是本人说的话,也许是提前录制或者还原出来的,但是这样的语句也是对生者的一种安慰,“只要不是用来做什么坏事,这样的形式还是挺好的。”

  邹女士也表示如果有机会,应该也会通过AI“复活”自己的亲人,“虽然知道‘AI复活’会扰乱一些秩序,但真的很想念逝去的亲人。”她告诉记者,她最想复活的是自己的爷爷,因为从小跟着爷爷长大,所以祖孙俩之间的感情非常深,但是2020年爷爷的突然离世让她不太能接受。如果能复活他,“想他还像平常一样,会问我在干嘛呀、吃饭没有呀,很平常的一个问候就好了。”虽然她知道被复活出来的形象会很不真实,但是因为非常想念逝去的亲人,所以这也算对自己的一种心理安慰。  

  专家

  传统技术的新运用 未来效果将可更逼真

  “它所运用的底层技术,包括算法、模型和计算框架都是相对传统的。”华南理工大学计算机科学与工程学院副院长、琶洲实验室AI大模型与智能认知研究中心研究员张通向南都记者表示,时下热门的“AI复活”技术内核并不新,也不复杂。

  “所谓的‘AI复活’是将物理空间的人的多模态数据进行形象的展示,运用了一些语音、图像、视频处理等相关技术。”张通介绍道,这项技术在他所研究的AI大模型与情感计算等研究领域中比较常用,只是在“AI复活”这么一个具体的应用场景里,做了一些个性化的调整和表情、动作的编辑等。“说得再简单一点,就是对人物的面部肌肉,包括对嘴角、眼角等面部器官进行编辑和生成。”呈现出的效果是只需要一张人物照片和声音资料,就可以使其动起来和讲话。“其背后还是依赖生成式人工智能,以及一些大模型方面的技术。”虽说并不复杂,不过张通认为,随着技术的发展,未来“AI复活”的应用及效果将趋于更广泛、更逼真、时间更久。“要让大众有身临其境的真实感受,还需要一段时间的技术沉淀和积累。”

  随着Chat GPT和Sora等大模型的发展,以及支撑大模型运转的高性能算力的发展,我们正处在一个人工智能技术快速发展和迭代的时期。“例如,现在AI已经能够模仿鲁迅的文风,学习李白和白居易的诗歌风格,进行差异化的生成。”

  至于“AI复活”所面临的争议,张通认为,新技术的产生都有其两面性,一方面可以推动生产力的发展,反过来也可能突破伦理的约束,甚至对个人或集体权益造成侵害。

  作为一名科研工作者,对于张通而言,他更加关注技术本身。“‘AI复活’这类技术运用的法律风险是不容忽视的。”张通表示,当前国家层面已经关注到这方面的法律风险,并着手加以管理。

  在日常的教学过程中,他也时常提醒学生以及团队的老师,要以“科技向善”为准则,进而推动创新技术的探索和研发。

  律师说

  可能存在侵权的法律风险 建议增加惩罚力度

  广东法制盛邦律师事务所律师汪冰洋表示,“AI复活”技术需要使用到逝者生前的图片、音视频等资料,其在制作、传播过程中,极易产生肖像权、名誉权、隐私权侵权等问题。据此,普通人使用AI复活技术,在未征得肖像权人家属同意的情况下,将可能存在民事侵权的法律风险。

  不过她也提到,法无禁止即自由。逝者家属为了寄托哀思,付费购买AI复活亲人的服务,并不违反相关法律规定。但是,前述虚拟的“数字人”的应用场景,应当限定于逝者家属范围内的私人领域,尤其在逝者为英雄烈士等公众人物的情况下,更应对其家属制作、使用、传播该使用AI技术复活的“数字人”的行为进行严格规制,以防止不法分子利用数字人开展违法、犯罪活动行为的发生。

  对于技术的使用,汪冰洋认为,虽说技术本身没有好坏之分,但也不存在绝对的技术中立。AI复活技术作为一种新型技术,在尚未完善对其进行数字化监控、认证等监管的情况下,普通人在公共网络平台上很难检测和辨认“数字人”与生物人的区别。AI复活技术如果被不当地使用,将会引发一系列道德、伦理、法律等问题。“因此,我们在鼓励技术发展的同时,也应当积极防范技术发展而带来的社会风险。”

  汪冰洋介绍,目前,我们还处于建立人工智能监管法律法规体系的探索阶段。提供AI复活服务的商家,掌握了大量的照片、音频、视频等人类生物信息,一旦缺乏有效监管,将催生出大量滥用、伪造生物识别信息实施犯罪的不法行为发生。2023年7月,我国发布了《生成式人工智能服务管理暂行办法》,根据相关规定,通过AI复活技术制作“数字人”,也必须依照规定进行数据标注,以帮助社会公众进行有效辨认,避免“数字人”被非法利用。但是,就目前而言,购买AI复活服务的消费者并不都清楚前述AI产品“数据标注”规定的存在,相关商家也并未完全按照前述规定对AI产品进行标注。

  对于AI复活技术的监管,她建议:首先,针对AI复活服务的提供者,可以设立资质准入、登记备案制度,保证所有AI产品能够追溯来源、明确责任人;其次,可以根据应用场景的不同以及复活对象的不同,设置分级审查制度,比如对于英雄、烈士等公众人物的AI复活制作,应当采用更加严格的产品审查、发布标准。再者,可以建立强制数据标注制度,使用数字水印等方式对“数字人”进行强制标注,便于公众识别。最后,还可加大对使用AI复活技术传播虚假信息、实施诈骗等违法犯罪活动的惩罚力度,加重行为人的违法成本。总之,对于AI复活等人工智能的监管,立法应当采取包容、审慎的监管态度,在鼓励技术创新与维护社会秩序之间寻求价值平衡。 南都广州新闻部出品 采写:南都记者 廖艳萍 代国辉

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这次闹大了,没换表的用户燃气费也在飙升,燃气公司利润暴增824%

这次闹大了,没换表的用户燃气费也在飙升,燃气公司利润暴增824%

慎独赢
2024-04-15 23:10:03
普华永道回应被指审计恒大失败:信息严重不实,已报案

普华永道回应被指审计恒大失败:信息严重不实,已报案

界面新闻
2024-04-15 23:32:22
网友称向成都市场监管局反映问题,被斥“你又不是领导,凭什么安排工作”,局机关纪委回应

网友称向成都市场监管局反映问题,被斥“你又不是领导,凭什么安排工作”,局机关纪委回应

纵览新闻
2024-04-15 20:15:35
拜登夫妇去年纳税近15万美元 税率为23.7%

拜登夫妇去年纳税近15万美元 税率为23.7%

财联社
2024-04-16 06:18:04
“别让普华永道跑了!”关键人物浮出水面? || 深度

“别让普华永道跑了!”关键人物浮出水面? || 深度

无冕财经
2024-04-15 18:55:16
突发:平安信托暴雷

突发:平安信托暴雷

地产一品塘
2024-04-15 20:43:24
圈了700亿后猝死的大佬,再陷“假死”传闻:有好几本护照,好几个名字

圈了700亿后猝死的大佬,再陷“假死”传闻:有好几本护照,好几个名字

西游日记
2024-04-15 17:11:11
要谢以色列,给台岛吃颗定心丸,解放军饱和攻击会只有200枚吗?

要谢以色列,给台岛吃颗定心丸,解放军饱和攻击会只有200枚吗?

说娱指南
2024-04-15 18:55:44
玉山县政府办:“提灯定损”涉事违建房屋确定拆除,目前正研究拆除方式

玉山县政府办:“提灯定损”涉事违建房屋确定拆除,目前正研究拆除方式

纵览新闻
2024-04-15 19:54:05
69岁“老虎”落马!老下属在“倒查20年”后已被查

69岁“老虎”落马!老下属在“倒查20年”后已被查

上观新闻
2024-04-15 21:40:56
太震惊了!三只羊直播间仅剩60人,昔日的辉煌终为泡影

太震惊了!三只羊直播间仅剩60人,昔日的辉煌终为泡影

娱乐圈酸柠檬
2024-04-16 03:16:45
烧钱!以色列“迎战”一晚花78亿至97亿元,伊朗袭击花了不到十分之一

烧钱!以色列“迎战”一晚花78亿至97亿元,伊朗袭击花了不到十分之一

红星新闻
2024-04-15 14:18:10
暴跌40%!外贸订单集体流向东南亚,中国制造能否再次“起飞”!

暴跌40%!外贸订单集体流向东南亚,中国制造能否再次“起飞”!

文迪科记
2024-04-15 23:27:18
“战略性怀孕”的风,吹到了国央企

“战略性怀孕”的风,吹到了国央企

互联网大聪明
2024-04-15 17:05:42
米莱最近又说了这样一段惊天地、泣鬼神的话!大家怎么看呢?

米莱最近又说了这样一段惊天地、泣鬼神的话!大家怎么看呢?

翻开历史和现实
2024-04-15 12:52:43
何杰首度发声回应夺冠争议:自己是受害者 职业素养不允许我退赛

何杰首度发声回应夺冠争议:自己是受害者 职业素养不允许我退赛

厝边人侃体育
2024-04-15 21:04:12
李毅:想要收复台湾,必须做好毁灭500座城市,牺牲1.4亿人的准备

李毅:想要收复台湾,必须做好毁灭500座城市,牺牲1.4亿人的准备

书侃小吏史
2024-04-15 07:45:21
“创造历史”,特朗普刑事案开审!美媒:他一旦被定罪,可能带来严重政治后果

“创造历史”,特朗普刑事案开审!美媒:他一旦被定罪,可能带来严重政治后果

环球网资讯
2024-04-16 06:07:15
研究发现:年轻时养猫,以后患精神分裂症的风险或高2倍以上!

研究发现:年轻时养猫,以后患精神分裂症的风险或高2倍以上!

一刻talks丨硬科技趣思想
2024-04-15 20:35:25
女护士为升职带女儿伺候领导,聊天记录遭曝光,尺度大到辣眼睛!

女护士为升职带女儿伺候领导,聊天记录遭曝光,尺度大到辣眼睛!

叶公子
2024-04-15 21:21:21
2024-04-16 09:36:49
南方都市报
南方都市报
换一种方式,南都在现场。
486233文章数 3568160关注度
往期回顾 全部

科技要闻

特斯拉吃老本,马斯克裁14000人,刚开始?

头条要闻

特朗普刑事案开审 美专家:特朗普就算坐牢也能当总统

头条要闻

特朗普刑事案开审 美专家:特朗普就算坐牢也能当总统

体育要闻

他被杨瀚森"打爆" 却有望成为NBA状元?

娱乐要闻

梁朝伟获影帝,击败林保怡引发质疑

财经要闻

王石的千万退休金不稳,要靠田朴珺养家了?

汽车要闻

刘涛:数字底盘和固态电池是智己大招

态度原创

健康
亲子
游戏
房产
公开课

这2种水果可降低高血压死亡风险

亲子要闻

孕妈妈晒出每次起床 “变形* 都得先 翻身的时候真的很困难

永劫无间手游首测收官,热度空前预定年度爆款?预约数超2500万

房产要闻

北京润府获预售证,均价6万/㎡

公开课

反抗痛苦,最好的方式就是读书

无障碍浏览 进入关怀版