网易首页 > 网易号 > 正文 申请入驻

记者实测AI“魔改”明星:1分钟报价数百元,平台审核存盲区,多明星同陷骗局

0
分享至

“太可怕了。”

2月26日,演员王劲松在个人微博发文,表示某微信视频号视频盗用其本人形象,“把我AI了”,修改其视频文案、口型,用于广告宣传。

新京报贝壳财经记者调查发现,涉事的AI“魔改”视频中,王劲松本人的穿着、神态,视频背景等几乎与抖音账号@抖音电视剧(抖音电视剧官方账号)在2020年发布的一条视频完全一致,原视频左上角标有《冰雨火》的水印,视频主题为宣传防毒禁毒。

新京报贝壳财经记者找到的AI魔改“原视频”与被魔改后的视频截图对比。

而被AI“魔改”后,“王劲松”在视频中开始推销一个包含“CRC”“RWA”等概念的所谓“财富平台”。对此,王劲松本人在微博回复中直言:“声音,口型完全看不出来真假”“我家里人都分不清是不是真是我了”。

目前,微信视频号已第一时间下架了该视频。但是,在这背后,值得追问的问题包括AI“魔改”明星视频有多简单?各大视频平台对此是否有防范措施?技术上AI视频和真实视频还能否被区分?包括王劲松在内,于和伟、李连杰等都有代言视频流传出来的所谓“CRC、RWA”又是“何方神圣”?

【实测】

生成“AI魔改视频”容易吗?

首先,使用AI生成一个王劲松“同款”假视频,容易吗?

答案是:并不简单。

新京报贝壳财经记者测试发现,如果只是普通用户使用目前市面上常用的AI视频工具,并不能达到“以假乱真”的效果。要生成“同款”假王劲松AI视频,仍然对技术有要求。

为进行测试,贝壳财经记者将@抖音电视剧发布的原视频分别投喂给即梦AI、可灵AI、剪映、豆包四款有AI视频生成功能的软件,并要求其按照给定广告文案生成AI视频。

结果,即梦AI的“对口型”功能仅支持匹配自带音色,生成视频的口型并不能完全契合文案;可灵AI生成的AI视频中,人物并未按照给定的文案生成“对口型”视频;剪映可通过“克隆音色”的功能复刻所上传视频中人物的音色,但“修改口型”的功能同样不能让视频中人物的口型做到无痕契合文案内容;豆包使用的Seedance2.0视频生成模型暂不支持上传真实人脸素材作为参考,无法对原视频进行修改。此外,上述四个App生成的视频均带有“AI生成”水印。

由此看来,上述四款App均难以一次生成“同款”假王劲松AI视频。

不过,市面上具备此类能力的AI模型还有很多,也由此已经衍生出一门借助AI修改人物口型的生意。在电商平台上很容易即可找到“AI影音修改”的服务,支持修改视频人物说话内容并同步口型,保持声音音色不变。

新京报贝壳财经记者在某电商平台咨询得知,多家店铺都支持AI修改明星视频,同时可以在视频上传后不显示“AI生成”的提示,1分钟“魔改”视频的报价在130元-400元不等。如一个“AI数字人视频对口型”商家显示其服务“已售1000+”。对方表示,支持“拿名人视频换成别的话和口型”。

记者在电商平台咨询到支持AI“魔改”的店铺。

而当记者表示想要了解店家使用的具体AI方式时,有店家表示使用的是“自有系统”,也有店家解释使用的是数字人技术。

贝壳财经记者注意到,随着技术的发展,近几年来,此类“虚假明星”的视频已经从“AI让图片动起来”进化到“AI换脸”,现在又直接升级为了“AI对口型”,每一次技术升级都在挑战肉眼辨认的难度。

对于王劲松形象“被AI”,中国政法大学知识产权中心特约研究员赵占领在接受贝壳财经记者采访时表示,对于AI技术的提供者,如果该AI工具被专门用于制作虚假名人代言视频,且未尽到显著的标识义务或管理责任,也可能需要承担相应责任。依据《生成式人工智能服务管理暂行办法》,服务提供者应当采取有效措施,防范生成虚假信息,并确保生成的视频进行显著标识,以防止混淆和误认。

北京中闻律师事务所合伙人赵虎对贝壳财经记者表示,责任方应该包括视频制作者、平台、提供工具的AI公司三方,“未经授权使用名人肖像和声音的人存在侵权行为,平台依照‘避风港原则’有删除侵权视频的责任。最难判断的是AI公司,从技术视角来看,技术是中立的,但产品的设计本身是否有问题,是否有考虑保护他人权益,是否变成了他人犯罪的工具也值得考量。不得不说,AI技术发展很快,相应的法律规定不一定完善。”

【审核】

平台审核AI伪造视频有多难?

当前主流视频平台对此类“AI生成”视频的审核力度如何?

2025年9月,新京报贝壳财经记者曾将AI生成的虚拟人物视频上传至哔哩哔哩、微博、抖音、快手、小红书5个平台,结果发现除了抖音和快手外,其他视频平台均未能识别出视频为AI生成。

2月27日,新京报贝壳财经记者再次尝试将上述记者使用AI工具生成的明星视频上传至抖音、快手两个短视频平台,结果发现仅抖音在视频左下角提示“作品含AI生成内容”。

事实上,随着AI技术的升级,平台对AI视频的检测也变得越来越难。

某视频平台业务人士向贝壳财经记者透露,该平台已为社会知名人士建立了肖像保护库,并且对仿冒营销内容进行了有效拦截,但是从平台治理的情况看,依然存在较大的难度,主要体现在部分用户通过各种手段与平台进行对抗,如通过形象微调、面部遮挡、画面分屏、跳帧出现等问题,使得平台也在不断迭代策略应对处置这些变体,而且用户利用AIGC可以很快地更换“形象”进行创作,进一步加大了治理难度。此外,人耳听起来相似的声纹,在算法角度对应的特征差异很大,因此更难泛化识别变体;同时因为人耳无法准确辨别AI声纹,实锤假声纹的成本高。

也有熟悉视频审核业务的人士告诉贝壳财经记者,对于仿冒名人营销,一些社会知名人士本身在平台上存在营销行为,如自媒体、代理商在平台上传播带货直播切片、代言视频等,因此仅凭视频难以区分虚假营销与真实带货,处置难度也很高。

多位AI行业专家均对贝壳财经记者表达过一种观点:AI生成技术与AI检测技术正呈“螺旋上升”态势,即“道高一尺,魔高一丈”。

中国传媒大学数据科学与智能媒体学院副教授张三义告诉贝壳财经记者,从技术的角度,虽然生成技术在迭代更新,但通常是可以发现一些生成或者伪装痕迹。一般会从这里来深挖视频背后的线索,来帮助判别。未来这种视频伪造比较困难的点在于不开源,“如果解锁不了视频生成的技术路线。从检测的角度就很难了。如果能够大概知道视频生成的技术路线,就可以作为突破口去做检测。”

在张三义看来,虽然目前AI生成视频大模型的技术路线基本都是用扩散模型生成,但每家企业会在此基础上再研发自己的核心技术,这就会存在许多不公开的细节。

在这样的情况下,如果有人使用了最新版本AI模型生成的视频,确实存在盲区。“平台的检测模型也需要一定的时间来更新应对这些新版本生成模型。这的确是个隐患。”张三义告诉记者。

据贝壳财经记者不完全统计,腾讯方面从2024年就开始打击利用AI仿冒知名人士进行营销宣传的行为。1月18日,微信方面表示,“平台从速从严打击利用AI仿冒知名人士进行违规拼接、不当营销、恶意博取流量等行为。最近一个月,累计处置内容12091条,关闭账号3281个。”

根据2月25日,抖音电商发布的2025年度报告,过去一年里,平台治理“侵权仿冒名人”等热点问题,“严厉打击未经授权利用AI、特效仿冒名人进行虚假宣传或侵权行为。截至目前,共处置违规侵权仿冒达人账号1.1万个,主动拦截侵权视频过万条。”

【骗局】

王劲松等明星“被代言”,幕后黑手涉非法集资

新京报贝壳财经记者调查发现,在王劲松展示的“被AI”的视频里,发视频的用户名为“CRC数字资产配置导师”,视频宣传的内容包括“CRC”“RWA生态”。

值得注意的是,虽然目前该视频号已经被封禁,一个发布过CRC明星代言视频的微信公众号“RWA数字生态”也显示“该账号涉嫌欺诈,已被停止使用”。不过同样打着“CRC”“RWA生态”旗号的视频和账号还有很多,且分散在视频号、抖音等平台上,涉及的明星还有李连杰、于和伟、唐国强、张国立、李亚鹏等,视频中明星的口型与文案几乎都能做到真假难辨。

社交平台上关于CRC的帖子。

针对这些视频的真伪,新京报贝壳财经记者已向上述明星或工作室的微博留言求证,截至发稿,尚未得到回应。

而对于这些视频中涉及的“CRC”“RWA生态”概念,记者发现这场“资金盘”骗局已经持续数年,幕后推手疑似通过炒作上述概念,进行非法集资。

对于“CRC”,华润集团早在2023年6月就发布了公告,称发现有商号以“顶峰数字金融集团”“海外华润CRC”“CHINA RESOURCES CAPITAL LIMITED”的名义在英国注册并开展经营活动。华润集团表示“该等商号及其关联公司或人士与本集团不存在任何隶属或股权关系,也不存在任何投资、合作、业务等合作关系。”并提醒社会公众避免上当受骗。

2025年10月17日,大连市委金融委员会办公室发布公告称,近期有不法分子利用RWA(现实世界资产通证化)概念炒作投资项目,以“金融创新、高收益”为噱头诱导公众投资。此类活动暗藏“资金盘”陷阱,涉嫌非法集资,严重扰乱金融秩序。

2026年2月12日,江西证监局也发布风险提示,指出不法分子借RWA、稳定币、区块链等名义,通过夸大宣传诱导公众投资。这类骗局滋生非法集资等犯罪活动,严重危害财产安全,套路与大连公告提及的情况如出一辙。

对此,赵占领表示,在该起事件中,AI内容的生成者,即视频制作者是责任的起点。制作者未经王劲松本人许可,擅自使用其肖像和表演片段,通过AI技术合成虚假广告,首先侵犯了王劲松的肖像权。根据《中华人民共和国民法典》,除法律另有规定外,未经肖像权人同意,不得制作、使用、公开其肖像。同时,该视频将王劲松与“存疑资金盘”绑定,可能导致公众对其产生负面评价,还涉嫌侵犯其名誉权。

“广告所推广的‘CRC数字资产’项目方是整个事件的最终受益者和幕后推手。如果该资产盘确实涉嫌诈骗或非法集资,其利用王劲松的名人效应制作AI视频进行虚假宣传,不仅构成了民事欺诈,更可能触犯刑法,涉嫌构成诈骗罪或非法吸收公众存款罪。”赵占领对贝壳财经记者表示。

新京报贝壳财经记者 罗亦丹 张晓慧 编辑 陈莉 校对 穆祥桐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京到访深圳北理莫斯科大学

普京到访深圳北理莫斯科大学

极目新闻
2026-11-18 15:53:16
画面曝光!男子闯入C-130“大力神”运输机内部:剪断电线、砸坏仪表盘、倾倒腐蚀性物质,使美军机报废,被起诉

画面曝光!男子闯入C-130“大力神”运输机内部:剪断电线、砸坏仪表盘、倾倒腐蚀性物质,使美军机报废,被起诉

大风新闻
2026-11-18 14:36:05
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
“深圳人全妆出街迎APEC”,冲上热搜

“深圳人全妆出街迎APEC”,冲上热搜

极目新闻
2026-11-18 10:22:19
黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

黄仁勋35岁女儿被曝是“尖叫公主”,已致12名高管辞职,虎父无犬女引发争议

译言
2026-11-18 07:30:17
太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

南海浪花
2026-11-18 11:34:45
湘雅二医院被爆发表“史诗级全AI论文”,“虾滑当肿瘤”“1厘米=12毫米”应有清晰应答

湘雅二医院被爆发表“史诗级全AI论文”,“虾滑当肿瘤”“1厘米=12毫米”应有清晰应答

极目新闻
2026-11-18 13:43:23
DeepSeek限额,国产算力紧缺!

DeepSeek限额,国产算力紧缺!

城事堂
2026-11-18 08:59:14
塔斯社被踢出欧洲新闻联盟!

塔斯社被踢出欧洲新闻联盟!

胖胖说他不胖
2026-11-18 10:00:39
徐国华任广西壮族自治区副主席

徐国华任广西壮族自治区副主席

澎湃新闻
2026-11-18 17:19:32
字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

城事堂
2026-11-18 17:22:57
突发!黄仁勋黄乐最新消息曝光,大开眼界!

突发!黄仁勋黄乐最新消息曝光,大开眼界!

财经要参
2026-11-18 12:00:05
又签20架!歼-10CE攻下第4国,这回轮到西方战机慌了

又签20架!歼-10CE攻下第4国,这回轮到西方战机慌了

巷北楠猫本尊
2026-11-18 16:04:40
离谱到家!绵阳 1600 元烤全羊端上桌,游客拿放大镜找,几乎找不到肉

离谱到家!绵阳 1600 元烤全羊端上桌,游客拿放大镜找,几乎找不到肉

川渝视觉
2026-11-18 11:00:51
哈啰变速车30分钟15元?公司客服回应

哈啰变速车30分钟15元?公司客服回应

界面新闻
2026-11-18 11:32:09
老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

秋风妃
2026-11-17 22:55:03
高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

城事堂
2026-11-17 09:03:52
7天内不撤回中国诉讼,每天罚500万欧元,封顶3亿!闻泰科技和安世已经从董事会吵架,升级成了一场按天计费的法律围猎

7天内不撤回中国诉讼,每天罚500万欧元,封顶3亿!闻泰科技和安世已经从董事会吵架,升级成了一场按天计费的法律围猎

扶苏聊历史
2026-11-18 11:21:53
六旬男子约按摩女发生关系,十分满意付了2000元,谁知女子扭头就把他告了

六旬男子约按摩女发生关系,十分满意付了2000元,谁知女子扭头就把他告了

江山挥笔
2026-11-18 14:13:58
太硬核了!实拍武汉一小学告示:作业、衣物、乐器等忘带不用送,引导孩子承担相应后果

太硬核了!实拍武汉一小学告示:作业、衣物、乐器等忘带不用送,引导孩子承担相应后果

火山詩话
2026-11-18 12:29:50
2026-11-18 19:27:00
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71619文章数 14096关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

亲子
时尚
本地
艺术
游戏

亲子要闻

宝宝气人但是聪明的4个行为

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

英国法庭驳回索尼PlayStation数字内容集体诉讼

无障碍浏览 进入关怀版