网易首页 > 网易号 > 正文 申请入驻

狸猫换太子?中央网信办再出手,全红婵太无辜,受害者何止她一个

0
分享至

你敢信吗?十七岁的奥运冠军正安安心心在队里养伤练动作,网上一堆顶着她名号的“自己人”,已经替她把货带了一波又一波,赚得盆满钵满。别说刚入坑的新粉丝分不出来,就连追了全红婵很久的老粉,刚点开都容易被骗过去,这出AI换脸的狸猫换太子,真的刷新了很多人对网上造假的认知。



熟悉跳水的朋友都知道,今年上半年全红婵一直在养伤调整,官方早就说了她不参加上半年的各项赛事,一门心思扑在康复训练上。这个拿过奥运金牌的小姑娘性格一直很低调,除了赛场正式露面,私下很少出现在公众面前,连社交动态基本都是团队帮忙打理。

可架不住有人盯着她的名气想捞快钱,就在她淡出公众视野养伤的这段时间,各大短平台突然冒出来好多打着她名号的账号。这些账号头像用的是全红婵的比赛照片,名字带个“婵宝”“全红婵家人”之类的标签,点进去翻一翻,内容全是带货。



最离谱的是这些的仿真程度,画面里的人脸型、神态、说话语气,都和全红婵的家人高度相似。开口就是“感谢大家支持婵宝”,说卖的土鸡蛋蜂蜜都是自家产的,说完马上弹商品链接,从骆驼奶粉到农家蜂蜜,从洗衣液到土特产,什么品类都有。

一开始不少粉丝真信了,觉得支持冠军家人是好事,想帮衬一把,纷纷下单掏钱。直到后来有人慢慢看出不对劲,里的人口型和声音偶尔对不上,有些画面边缘还能看出明显的AI处理痕迹,这事才慢慢在粉丝圈传开。



最后还是全红婵的父亲站出来公开回应,说这些账号跟自家半毛钱关系都没有,全是有人用AI技术伪造了家人的声音和形象,借着全红婵的名气卖货。这个朴实的农村汉子对着镜头满是无奈,说一家人踏踏实实过日子,从来没想过借女儿的名声卖货,更不想让女儿平白无故受非议。

辟谣出来之后网友才恍然大悟,原来那些看着真切的画面、听着熟悉的声音,全都是AI合成的假货。真的全红婵在跳水池里一遍一遍打磨动作,假的“全红婵们”却在网上靠着她的名声赚得盆满钵满,钱进了骗子的口袋,万一商品出了问题,坏名声全是全红婵背。



这种顶着别人名号牟利的操作,就是活脱脱的互联网版狸猫换太子。真身藏在幕后默默努力,假身顶着名头四处捞金,等真身发现不对的时候,流量早就被骗子变现,留下的坏名声却很难追得回来。

不少人可能觉得,不就是借个名字卖货,能有什么实际损失。事实真不是这样,对全红婵这种职业运动员来说,声誉比什么都重要。她的口碑是十几年在跳台摔汗水摔出来的,是一块一块国际金牌拼出来的,这份本该绑定赛场表现的信任,就这样被骗子拿来当卖货的幌子。



不知情的网友买了劣质商品,转头就会骂全红婵“圈钱”。就算知道真相的人,看着满天飞的假账号,难免也会对她的印象打折扣,这份委屈真的没处说。

这事更值得警惕的是,它真不是只针对全红婵一个人的特例。现在AI换脸换声的门槛越来越低,几百块就能买一套工具,几分钟就能生成一段以假乱真的,越来越多有名气的人都成了被仿冒的目标。

有体育明星被伪造采访,编造退役谣言搞得粉丝人心惶惶。有演艺人士被AI换脸进低俗广告,平白无故败坏了路人缘。就连普通人都逃不过,有人被冒用形象,拿去做虚假医疗宣传。



这些仿冒账号基本都是矩阵式运营,成本低得吓人,被举报封号了换个马甲就能重新再来,打一枪换一个地方,根本抓不完。在这条灰色产业链里,没有一个赢家,被仿冒的人名声受损,粉丝花了冤枉钱,普通消费者买到三无产品,最后整个网络环境的信任度都被一点点耗干净。

换作是谁遇上这种事都堵得慌,全红婵一个十七八岁的姑娘,每天的生活就是训练、康复、比赛,连自己的社交账号都很少打理,根本没心思去网上挨个查谁在冒充她。等她和团队发现不对劲,那些假账号早就赚够了流量,不少早就卷着钱换号跑路了。

说白了这些骗子就是吃准了运动员没时间没精力跟他们耗,拿着别人拼尽全力挣来的名声,换自己口袋里的真金白银,算盘打得隔着屏幕都能听见响。更气人的是,这事维权还特别麻烦,账号是虚拟的,运营者不知道藏在哪个角落,AI生成的内容又难溯源,等走完投诉举证的流程,人家早就换个名头接着骗了。



这种一本万利的买卖,违法成本低,收益高得吓人,才会有这么多人铤而走险。针对越来越严重的AI仿冒、虚假人设乱象,监管的整治脚步一直没停下。

今年6月中央网信办就开设了涉AI应用乱象举报专区,专门受理假冒仿冒他人等14类问题举报。到9月“清朗・整治AI应用乱象”专项行动第二阶段通报,累计清理违法违规信息561万余条,查处违法违规账号4.9万余个,其中就包括一批利用AI换脸换声、假冒公众人物营销牟利的典型账号。

就在9月底,中央网信办再出手,部署开展为期两个月的“清朗・整治短虚假人设乱象”专项行动,明确把“利用AI合成虚假音假冒公众人物实施虚假代言营销”列为重点整治方向,直接对准了这种狸猫换太子的造假操作。



连续的整治动作,不是针对某一起单独事件,是冲着整个行业的沉疴去的。过去说起网络侵权,大多是盗用图片、编造文字谣言,维权虽然难,起码造假成本不算低。现在AI技术普及了,普通人花几十块钱就能生成足以乱真的,造假门槛降到了历史最低,监管难度却直线上升。

要是放任这种乱象发展下去,后果真的不堪设想。以后真假分不清,谁的形象声音都可能被随便冒用,网络空间就会变成满是谎言的灰色地带,没人敢信自己看到的内容,也没人能保证自己不会成为下一个受害者。



网信办的连续亮剑,本质上就是给狂奔的AI技术套上缰绳。技术本身没有对错,但用技术做什么事,必须有边界有规则。整治这些违规账号,既是在保护全红婵这样的受害者,也是在守护整个网络空间的信任底线。

治理AI乱象不可能一蹴而就,技术在不断升级,监管手段也得跟着迭代。更关键的是,网络生态治理从来不是监管部门一家的事。平台要扛起主体责任,升级AI识别技术,从源头拦截仿冒内容。商家要守住合规底线,不能为了销量纵容虚假代言。普通网民也要提升辨别意识,不盲目跟风下单,不给仿冒者留生存空间。



只有多方一块使劲,才能真正让狸猫换太子的戏码无处上演。全红婵的遭遇,就是AI技术滥用下的一个典型缩影,当技术便利被异化为牟利工具,为国争光的运动员成了被收割的流量符号,最终受伤的是公众的信任和清朗的网络环境。

参考资料:人民日报 中央网信办部署开展清朗·整治短虚假人设乱象专项行动

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

烈史
烈史
千年中华史,烟尘映古道,岁月如歌,悠悠情未老。
3950文章数 153关注度
往期回顾 全部

专题推荐

乌蒙深处 清凉毕节

无障碍浏览 进入关怀版