网易首页 > 网易号 > 正文 申请入驻

重庆瞭望丨让数字人“不逾矩”

0
分享至

前不久有网友发现,疑似知名医生张文宏疑似化身“带货主播”,在网络平台售卖产品。然而,这个“张文宏”却是AI合成的。对此,张文宏回应称,这样的卖货账号不止一个,且一直在变,他多次向平台投诉但屡禁不绝。

其实,“躺枪”的不只是张文宏。随着AI技术的发展,AI合成技术愈发被滥用,形形色色的AI数字人,不仅给公众人物造成严重困扰,也使得虚假信息满天飞;不仅让大量网友上当受骗、蒙受损失,也严重污染网络环境,破坏网络公共秩序。

AI技术让张文宏成为“带货主播”。/重庆瞭望截图

01

人工智能为社会生活带来了很多便利,但它的滥用,也造成了许多不好的后果。

数字人作恶,让无辜者“躺枪”。“雷总,最近你怎么在骂人?”10月7日,有网友在雷军微博下面这样评论。原来,在今年国庆期间,有人用雷军的声音和头像,生成了许多恶搞视频。视频里,“雷军”频爆粗口,锐评了堵车等多个话题,让不少不明就里的网友信以为真,也给雷军本人带来了不小困扰。

除了张文宏和雷军,黄晓明、于东来乃至一些普通人都曾被人用AI仿冒。这种仿冒不仅侵害当事人的肖像权、名誉权、隐私权等权利,也很“搞”人的心态。数字人打着真人的旗号,招摇过市、肆意妄为,对那些被仿冒的人来说,这完全是“人在家中坐,锅从天上来”。

数字人作恶,让人防不胜防。一些人为了牟利,大肆利用AI合成音视频。今年9月,宁夏固原一市民报案称,自己被在非洲务工的“表哥”骗了15000元。原来,骗子通过AI换脸和拟声技术冒充其表哥,佯装亲戚对其实施诈骗。11月,江西一位65岁老人到银行办理业务,声称要贷款200万元给男朋友“靳东”拍戏,不用说,老人手机里的“靳东”视频同样是AI合成的。

不论是仿冒知名人物的直播带货,还是冒充亲朋好友的网络诈骗,各种由AI合成技术衍生出的新招式、新骗术层出不穷,而且越来越精准、越来越逼真。面对这种情况,普通人的确有些无力。

数字人作恶,让环境遭殃。如今,信息获取渠道已非常畅通,AI技术可以轻易制作出大量鱼目混珠的图片视频,这些繁杂纷乱、泛滥成灾的虚假信息,很容易被算法推送给我们。虚假信息泛滥,污染的是网络大环境,冲击的是社会信用体系,侵蚀的是社会信用根基。长此以往,人们或困在虚假信息的“信息茧房”,或为了甄别信息付出大量时间成本,信任危机之下,甚至会影响经济社会发展。

市民了解AI产品。张端 摄/《瞭望》新闻周刊

02

数字人就这么难“捉”吗?就目前来看,确实是这样。不过俗话说得好,知己知彼,百战不殆。搞清楚数字人泛滥的原因,找准数字人无法无天的倚仗,我们方能更好地对症下药。

一“高”一“低”,使数字人有恃无恐。技术门槛低、维权成本高,这是AI合成技术泛滥的一个重要原因。如今,AI早已不是少数人的专利,哪怕你完全不懂AI技术,随便登录个网站、或是下个APP,也能体会到AI的乐趣。技术门槛不断降低虽然带来便利,但也使得维权成本变高,张文宏“多次向平台投诉但屡禁不绝”就能说明这一点。

一“明”一“暗”,让数字人肆无忌惮。受害者在明处,仿冒者在暗处,这是许多不法分子在AI合成上肆无忌惮的另一个重要原因。互联网的开放性和匿名性,使得溯源工作存在困难。网络生活中,不论是盗取音视频资料,还是实施带货诈骗,不法分子往往躲在暗处,套着重重马甲,且频频转移阵地。

如此一来,受害者即便发觉被骗,也很难找到当事人。像那家模拟张文宏带货的店铺,事发之后便不见了踪迹。这种“事了拂身去”,的确让人恨得牙根痒痒。

一“快”一“慢”,令数字人有机可乘。技术迭代快、监管提速慢,这让许多不法分子能钻空子。AI是新鲜事物,在其发展初期,法律法规存在不少空白和模糊地带,这也让许多不法分子产生了侥幸心理。当前,AI数字人带来的负面效应越来越多,相关部门要加强监管,不断通过立法堵住法律漏洞。

03

技术无善恶,关键在于怎么使用。对于人工智能,我们无需太过担忧,只要做好引导,就能使技术发挥最大的正向功效。

以技术制约技术,用AI制约数字人。古人云,以子之矛,攻子之盾。AI带来的问题,或许可以通过AI来解。比如,通过AI提升监管效率,以AI来治理AI,这对AI发展也是一个新的机遇。当前,已有不少相关产品投入到具体应用中,它们有的以AI提升审核效率,确保内容安全;有的以AI监测侵权事件,赋能版权保护。

其实,以技术制约技术,不是某一家科技公司的事,各方需形成合力,引导数字人向善。比如,平台需肩负起主体责任,不能为了流量而蓄意纵容换脸、拟声等乱象的发生。相关部门也要通过先进技术,实现管理的提质升级,用好技术的百宝箱,学会用“魔法”打败“魔法”,AI才能更好更快发展。

以规则扫清盲区,将数字人关进“笼子”。要避免新兴事物野蛮生长,监管就不能存在盲区,只有不断提高立法的前瞻性,方能为新兴事物创造良好的成长环境。

近年来,我国相继颁布了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规,就目前来看,这显然不够,仍需进一步完善细化。厘清各方边界,才能为人工智能发展营造良好空间。

如今,生成式人工智能应用范围越来越广,比如媒体有AI主播,电商有AI客服,影视有AI短剧,可以说,数字人与我们的生活越来越紧密。但要让数字人健康成长,关键是“不逾矩”,要将其置于阳光之下,置于约束之下,先进技术才能更好向善,更好为高质量发展注入动力。

原标题:让数字人“不逾矩”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!美国 AI 芯片出口限制新增:新加坡、马来西亚、泰国、印度尼西亚、巴西

突发!美国 AI 芯片出口限制新增:新加坡、马来西亚、泰国、印度尼西亚、巴西

云头条
2026-11-17 00:44:09
网传2026年越来越多的人开始反向消费…

网传2026年越来越多的人开始反向消费…

慧翔百科
2026-11-12 08:28:44
煤老板换成了炒币客!十年前包厢里花的是挖煤挣的钱,如今手机一亮,十倍收益把人带进了坑

煤老板换成了炒币客!十年前包厢里花的是挖煤挣的钱,如今手机一亮,十倍收益把人带进了坑

王老师你还好吗
2026-11-18 00:33:13
终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

江启
2026-11-17 01:14:38
看到这个女人的面相,反而让我对黄仁勋心生敬佩,这么多年在欧美,审美居然还是纯正的东方风格

看到这个女人的面相,反而让我对黄仁勋心生敬佩,这么多年在欧美,审美居然还是纯正的东方风格

一盅情怀
2026-11-10 15:48:41
《一路向西》的四大美女,同一部电影,不同的人生道路

《一路向西》的四大美女,同一部电影,不同的人生道路

该用户已看透一切
2026-11-16 13:34:38
连续替补+踢不上球!12分钟就抽筋,曝吕孟洋在西班牙找私教保持球感

连续替补+踢不上球!12分钟就抽筋,曝吕孟洋在西班牙找私教保持球感

中场阴谋家
2026-11-16 22:25:56
某市政府办公室干部为领导起草发言材料时,引用涉密文件,认为“引用一两句话不至于涉密”,将材料发至微信群征求意见,被政务警告处分

某市政府办公室干部为领导起草发言材料时,引用涉密文件,认为“引用一两句话不至于涉密”,将材料发至微信群征求意见,被政务警告处分

政知新媒体
2026-11-17 07:39:52
原来她早已去世,从患病到离世仅16天,去世原因让人心痛!

原来她早已去世,从患病到离世仅16天,去世原因让人心痛!

情感大头说说
2026-11-18 00:54:43
曾是上海知名主持,主持《百里挑一》红极一时,如今58岁查无此人

曾是上海知名主持,主持《百里挑一》红极一时,如今58岁查无此人

星星邮递员
2026-11-15 21:32:14
河南女子拆睡9年喜褥,翻出缠红绳棉花小人,竟是婚嫁老习俗

河南女子拆睡9年喜褥,翻出缠红绳棉花小人,竟是婚嫁老习俗

普陀动物世界
2026-09-28 07:41:51
朝中社发文谴责日本拥核野心

朝中社发文谴责日本拥核野心

新华社
2026-11-15 20:49:19
360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

每日经济新闻
2026-11-17 11:55:04
齐达内折服!德布劳内鼓掌!皇马天才在穆里尼奥麾下封神

齐达内折服!德布劳内鼓掌!皇马天才在穆里尼奥麾下封神

奶盖熊本熊
2026-11-17 08:57:40
个人收入要开始严查?2026年起如果账户收入超过这个数,注意下准没坏处。

个人收入要开始严查?2026年起如果账户收入超过这个数,注意下准没坏处。

巢客HOME
2026-10-13 05:10:03
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
房地产一旦撑不住,明年国内房价或许会碰到三个大难题 卖房救急的人,得先借钱救急

房地产一旦撑不住,明年国内房价或许会碰到三个大难题 卖房救急的人,得先借钱救急

新国学文化
2026-11-17 11:36:37
央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

娱乐圈十三太保
2026-11-13 15:56:34
央媒亲宣!56岁陈建斌正式上任,职务不一般,早已和吴越拉开距离

央媒亲宣!56岁陈建斌正式上任,职务不一般,早已和吴越拉开距离

削桐作琴
2026-11-09 15:29:05
中美建交47年,还没有任何一个在任美国总统敢落地台湾。

中美建交47年,还没有任何一个在任美国总统敢落地台湾。

叶葉夜
2026-11-15 13:56:44
2026-11-18 01:52:49
上游新闻 incentive-icons
上游新闻
上游新闻官方账号
271759文章数 585744关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

全民抛售AI,市场转折点或已悄然临近

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

旅游
时尚
房产
家居
数码

旅游要闻

蹬出炸口岩,留下手巴岩,张三丰在毕节这块石头上留下印记!

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

房产要闻

5381亩之后,三亚绿谷,等一个500强!

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版