网易首页 > 网易号 > 正文 申请入驻

“你是温峥嵘我是谁?”AI换脸盗播女星撕开黑灰产一角

0
分享至

近日,演员温峥嵘在抖音直播间自曝被AI换脸盗播,多个直播间出现其带货形象,在直播间提问“你是温峥嵘我是谁”后反而被对方拉黑。

该案例引发多方重视。11月6日晚间,抖音集团副总裁李亮发文称,这两天,温峥嵘被AI盗播带货的新闻关注度很高。经核查后发现,被曝光的“三个直播间同时开播”案例并非发生在抖音平台。经过与相关方联系,并根据投诉线索核查,发现平台上确实存在一些利用AI仿冒名人带货的短视频内容。

李亮同时强调,AI内容侵权识别是行业性技术难题,恶意仿冒账号也在不断与平台进行技术对抗,平台会持续加大投入应对挑战,维护创作者、商家和消费者的合法权益。第一财经据此梳理AI换脸与伪造黑灰产链条,多位网络安全专家强调,AI攻防战役是一场需要长期投入的“猫鼠游戏”,涉及法律法规、技术手段与平台治理等多方面。

“我该怎么证明我是我?”

11月5日,温峥嵘抖音账号进行三次以“我是真的温峥嵘”为主题的直播,讲述近期被AI伪造、AI换脸直播带货的情况,并强调除了经过平台黄V认证演员身份的主账号,以及个别几个经过主账号授权的小号外,其他均为盗用、冒用账号。

事件引发热议起因于有网友发现演员“温峥嵘”同时现身三个不同直播间进行直播带货,且身穿不同服装、推广着不同产品,画面中的“温峥嵘”动作、神态与本人高度相似,该情况很快在网络端引发热议,甚至有网友质疑温峥嵘是否通过录播视频假冒直播进行直播销售。

温峥嵘团队工作人员接受央视采访时表示,发现该现象后团队便持续进行举报,一天时间内曾举报50个假冒账号,有的造假账号被平台下架处理,有的账号刚被下架很快又换了个形式重新出现,令人防不胜防。

该工作人员称,商家只需要截取一段影像,通过简易工具便能生成虚假内容,但取证动作却需要花费很大精力。且造假团队喜欢在凌晨三四点钟打时间差发布虚假视频。虽然团队已送达相关律师函,但目前调查的仅仅是一部分造假商家。

温峥嵘接受采访时表示,今年4月左右的时候,因为拍戏到很晚,两三点回家卸了妆就会玩手机,居然看到自己在直播。她进入直播间质问“你是温峥嵘,我是谁?”随即被对方拉黑。温峥嵘观察发现,假造商家的视频内容有的不是假的,是通过录屏截取不同的视频内容,然后拼接在一起。画面是真的,只是在讲不同的事情;声音也是真的。“我该怎么证明我是我?”温峥嵘表示,团队法务部每天都在状告,AI的发展理应便于老百姓更好地生活,而不是被不良商家钻了空子。

据抖音官方披露,“发**鱼”、“小**妈”等达人未经授权,利用AI仿冒温峥嵘肖像、声音信息,进行带货宣传。平台依据《创作者【仿冒名人宣传】细则》,已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。接到反馈后,平台通过专项治理,共处置下架温峥嵘相关仿冒侵权的视频1万余条,其中带货类视频6900余条,并对37个违规账号予以处罚。

AI伪造门槛降低

温峥嵘遭遇此番AI造假,一方面因AI技术拉低造假门槛,一方面因温峥嵘本身便从事直播带货,持续的直播动作给造假商家提供了丰富的“素材”。

第三方直播监测平台数据显示,温峥嵘抖音账号粉丝数384.1万,近三个月增长29.6%。今年以来共直播248场,场均观看人次达96.3万人,上架商品共783件,场均销售额达100万-250万。所售商品品类中,美妆护肤类占比54.19%。

除了直播视频截取,目前各电商平台也提供相关业务服务。记者在某二手交易电商平台上发现,进行人脸识别、代做视频、人脸(信息)提取的业务售价仅30元。同时卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益,小铺不对因使用非法素材或违法行为导致的任何法律责任负责。

而在技术的应用方面,AI的逐渐成熟也在一定程度上降低了犯罪技术门槛。瑞莱科技联合创始人萧子豪对第一财经表示,近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈,呈显著上升趋势。犯罪行为变得更具迷惑性,也更加隐蔽。近年来生成式AI技术能力突飞猛进并持续开源开放,大量工具、产品问世,极大降低了不法分子利用AI的门槛和成本。

今年9月,据公安部网安局披露,浙江杭州警方侦破一起利用“AI换脸”突破相关互联网平台人脸识别认证机制侵犯公民个人信息案件,抓获犯罪嫌疑人4名,查获一批被非法强制登录的网络账号。涉案人员利用生成式人工智能深度合成技术伪造“AI人脸”,突破平台人脸识别认证机制,非法窃取公民个人隐私数据。

该案中,犯罪团伙利用某即时通讯平台招揽生意,宣称可以承接互联网平台特定用户数据的“查细”业务。接单后,团伙成员伪造受害者人脸验证视频,突破相关头部平台登录认证,强制登录受害者账号窃取信息。

攻防博弈持续

整个AI治理行业内,监管侧与平台侧的治理举措,与黑灰产案例长期博弈。

从黑灰产产业链角度来看,记者梳理多项公开执法文书、部委通报与头部安全厂商报告,梳理目前全链条主要包括上游数据、中游产能、下游场景以及最终的洗钱变现四个环节。

其中上游包括通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模,中游包括通过多项技术手段实现人脸替换、驱动与重播、对抗检测清洗等,下游直接通过AI换脸进行诈骗、诱导转账、色情勒索、直播带货或打赏等违法犯罪行为。

以抖音平台为例,据抖音电商安全与信息中心披露,近期平台发现部分商家和达人在未取得授权情况下,剪辑视频、拼贴文字信息,或利用AI、特效仿冒名人进行带货营销,误导消费者。自10月专项启动以来,已严厉处置涉及侵权仿冒违规的达人账号1.1万个,处置仿冒名人带货的商品6700余个。

其中已处置视频和账号的违规行为包括但不限于未经授权,利用AI仿冒名人肖像、声音信息带货;未经授权,内容画面、声音、文案信息虚假宣称为本人,或暗示名人与商品有直接关联带货;未经授权,使用名人姓名/艺名,或使用变体等形式,从昵称到视频刻意仿冒名人带货;未经授权,头像直接使用名人肖像照片,利用特效制作卡通形象或高度相似图片仿冒名人带货。

萧子豪表示,AI技术衍生安全风险的治理问题是个非常复杂的社会问题,涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒,也需要有技术手段令AI更加安全、可控。在技术层面,生成和鉴伪的对抗性非常强,需要持续长期投入,就像是“猫鼠游戏”,此消彼长,相互博弈。与互联网产品或者其他AI产品不同,AI鉴伪产品并非开发完就结束,而是要随着生成技术的进展不断研究、更新、迭代,没有终点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深夜,美股大变脸

深夜,美股大变脸

新浪财经
2026-11-19 23:51:57
英媒:因曼城违规指控成立,阿波罗取消了对其所有者的20亿美元贷款

英媒:因曼城违规指控成立,阿波罗取消了对其所有者的20亿美元贷款

懂球帝
2026-11-19 16:10:44
APEC规矩不能破,外宾安保别想特殊,美国也得遵守中方安排

APEC规矩不能破,外宾安保别想特殊,美国也得遵守中方安排

金戈远望
2026-11-18 17:30:03
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
特朗普最大"贡献",就是亲手摧毁了中国人对美国的幻想!

特朗普最大"贡献",就是亲手摧毁了中国人对美国的幻想!

乌克兰小静
2026-09-25 06:58:19
广东人最怕的湿冷来了!未来两天继续降温,最低气温出现在……

广东人最怕的湿冷来了!未来两天继续降温,最低气温出现在……

佛山电视小强热线
2026-11-19 22:04:14
财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

墨韵兰亭l
2026-11-18 21:24:07
倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

三农雷哥
2026-10-24 14:59:15
中国已经成为全球第一个集体拒接电话的国家

中国已经成为全球第一个集体拒接电话的国家

黯泉
2026-06-26 10:44:35
黄金什么时候会跌到500块钱一克?

黄金什么时候会跌到500块钱一克?

流苏晚晴
2026-07-13 22:22:40
落地不到48小时就开练,波切蒂诺发布会推迟30分钟

落地不到48小时就开练,波切蒂诺发布会推迟30分钟

赛场速报局
2026-11-20 00:50:42
我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

一盅情怀
2026-11-11 15:52:58
王子璇还原文吉儿火车换位置事件

王子璇还原文吉儿火车换位置事件

老吴教育课堂
2026-11-19 16:15:51
上海富二代娶300斤女子,3个月后妻子幸福死去,真相让人脊背发凉

上海富二代娶300斤女子,3个月后妻子幸福死去,真相让人脊背发凉

温情邮局
2025-03-24 17:51:41
从全网泪目到全网群嘲:赵本山唱的不是鸡汤,是普通人的慌

从全网泪目到全网群嘲:赵本山唱的不是鸡汤,是普通人的慌

迷世书童
2026-11-19 12:45:12
无底线了!内塔尼亚胡之子被伊朗特工暗杀,弃行李连夜逃回以色列

无底线了!内塔尼亚胡之子被伊朗特工暗杀,弃行李连夜逃回以色列

梦史
2026-08-29 06:21:20
劝你多吃!这种国民鱼一直被低估、被当廉价鱼!

劝你多吃!这种国民鱼一直被低估、被当廉价鱼!

果壳
2026-11-19 16:20:10
人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

千秋文化
2026-06-13 19:41:34
到达深圳后,中国台湾代表施振荣喊话大陆,赖清德交给他3个任务

到达深圳后,中国台湾代表施振荣喊话大陆,赖清德交给他3个任务

凡知
2026-11-19 10:52:17
历史性一幕出现!美专家说了句实话,中美俄谈妥了,世界也稳定了

历史性一幕出现!美专家说了句实话,中美俄谈妥了,世界也稳定了

讲者普拉斯
2026-11-19 22:37:46
2026-11-20 01:51:00
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
273070文章数 624077关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

时尚
教育
房产
手机
本地

被叫老板娘7年,张萌终于翻脸

教育要闻

不另起炉灶,不做加法,一地用6件日常小事破解研修痛点

房产要闻

2.5亿!丁村侨中,新动作来了!

手机要闻

OpenAI首款硬件不是手机!果链深度参与,苹果烙印满满?

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版