网易首页 > 网易号 > 正文 申请入驻

“你是温峥嵘我是谁?”AI换脸盗播女星撕开黑灰产一角

0
分享至

近日,演员温峥嵘在抖音直播间自曝被AI换脸盗播,多个直播间出现其带货形象,在直播间提问“你是温峥嵘我是谁”后反而被对方拉黑。

该案例引发多方重视。11月6日晚间,抖音集团副总裁李亮发文称,这两天,温峥嵘被AI盗播带货的新闻关注度很高。经核查后发现,被曝光的“三个直播间同时开播”案例并非发生在抖音平台。经过与相关方联系,并根据投诉线索核查,发现平台上确实存在一些利用AI仿冒名人带货的短视频内容。

李亮同时强调,AI内容侵权识别是行业性技术难题,恶意仿冒账号也在不断与平台进行技术对抗,平台会持续加大投入应对挑战,维护创作者、商家和消费者的合法权益。第一财经据此梳理AI换脸与伪造黑灰产链条,多位网络安全专家强调,AI攻防战役是一场需要长期投入的“猫鼠游戏”,涉及法律法规、技术手段与平台治理等多方面。

“我该怎么证明我是我?”

11月5日,温峥嵘抖音账号进行三次以“我是真的温峥嵘”为主题的直播,讲述近期被AI伪造、AI换脸直播带货的情况,并强调除了经过平台黄V认证演员身份的主账号,以及个别几个经过主账号授权的小号外,其他均为盗用、冒用账号。

事件引发热议起因于有网友发现演员“温峥嵘”同时现身三个不同直播间进行直播带货,且身穿不同服装、推广着不同产品,画面中的“温峥嵘”动作、神态与本人高度相似,该情况很快在网络端引发热议,甚至有网友质疑温峥嵘是否通过录播视频假冒直播进行直播销售。

温峥嵘团队工作人员接受央视采访时表示,发现该现象后团队便持续进行举报,一天时间内曾举报50个假冒账号,有的造假账号被平台下架处理,有的账号刚被下架很快又换了个形式重新出现,令人防不胜防。

该工作人员称,商家只需要截取一段影像,通过简易工具便能生成虚假内容,但取证动作却需要花费很大精力。且造假团队喜欢在凌晨三四点钟打时间差发布虚假视频。虽然团队已送达相关律师函,但目前调查的仅仅是一部分造假商家。

温峥嵘接受采访时表示,今年4月左右的时候,因为拍戏到很晚,两三点回家卸了妆就会玩手机,居然看到自己在直播。她进入直播间质问“你是温峥嵘,我是谁?”随即被对方拉黑。温峥嵘观察发现,假造商家的视频内容有的不是假的,是通过录屏截取不同的视频内容,然后拼接在一起。画面是真的,只是在讲不同的事情;声音也是真的。“我该怎么证明我是我?”温峥嵘表示,团队法务部每天都在状告,AI的发展理应便于老百姓更好地生活,而不是被不良商家钻了空子。

据抖音官方披露,“发**鱼”、“小**妈”等达人未经授权,利用AI仿冒温峥嵘肖像、声音信息,进行带货宣传。平台依据《创作者【仿冒名人宣传】细则》,已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。接到反馈后,平台通过专项治理,共处置下架温峥嵘相关仿冒侵权的视频1万余条,其中带货类视频6900余条,并对37个违规账号予以处罚。

AI伪造门槛降低

温峥嵘遭遇此番AI造假,一方面因AI技术拉低造假门槛,一方面因温峥嵘本身便从事直播带货,持续的直播动作给造假商家提供了丰富的“素材”。

第三方直播监测平台数据显示,温峥嵘抖音账号粉丝数384.1万,近三个月增长29.6%。今年以来共直播248场,场均观看人次达96.3万人,上架商品共783件,场均销售额达100万-250万。所售商品品类中,美妆护肤类占比54.19%。

除了直播视频截取,目前各电商平台也提供相关业务服务。记者在某二手交易电商平台上发现,进行人脸识别、代做视频、人脸(信息)提取的业务售价仅30元。同时卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益,小铺不对因使用非法素材或违法行为导致的任何法律责任负责。

而在技术的应用方面,AI的逐渐成熟也在一定程度上降低了犯罪技术门槛。瑞莱科技联合创始人萧子豪对第一财经表示,近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈,呈显著上升趋势。犯罪行为变得更具迷惑性,也更加隐蔽。近年来生成式AI技术能力突飞猛进并持续开源开放,大量工具、产品问世,极大降低了不法分子利用AI的门槛和成本。

今年9月,据公安部网安局披露,浙江杭州警方侦破一起利用“AI换脸”突破相关互联网平台人脸识别认证机制侵犯公民个人信息案件,抓获犯罪嫌疑人4名,查获一批被非法强制登录的网络账号。涉案人员利用生成式人工智能深度合成技术伪造“AI人脸”,突破平台人脸识别认证机制,非法窃取公民个人隐私数据。

该案中,犯罪团伙利用某即时通讯平台招揽生意,宣称可以承接互联网平台特定用户数据的“查细”业务。接单后,团伙成员伪造受害者人脸验证视频,突破相关头部平台登录认证,强制登录受害者账号窃取信息。

攻防博弈持续

整个AI治理行业内,监管侧与平台侧的治理举措,与黑灰产案例长期博弈。

从黑灰产产业链角度来看,记者梳理多项公开执法文书、部委通报与头部安全厂商报告,梳理目前全链条主要包括上游数据、中游产能、下游场景以及最终的洗钱变现四个环节。

其中上游包括通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模,中游包括通过多项技术手段实现人脸替换、驱动与重播、对抗检测清洗等,下游直接通过AI换脸进行诈骗、诱导转账、色情勒索、直播带货或打赏等违法犯罪行为。

以抖音平台为例,据抖音电商安全与信息中心披露,近期平台发现部分商家和达人在未取得授权情况下,剪辑视频、拼贴文字信息,或利用AI、特效仿冒名人进行带货营销,误导消费者。自10月专项启动以来,已严厉处置涉及侵权仿冒违规的达人账号1.1万个,处置仿冒名人带货的商品6700余个。

其中已处置视频和账号的违规行为包括但不限于未经授权,利用AI仿冒名人肖像、声音信息带货;未经授权,内容画面、声音、文案信息虚假宣称为本人,或暗示名人与商品有直接关联带货;未经授权,使用名人姓名/艺名,或使用变体等形式,从昵称到视频刻意仿冒名人带货;未经授权,头像直接使用名人肖像照片,利用特效制作卡通形象或高度相似图片仿冒名人带货。

萧子豪表示,AI技术衍生安全风险的治理问题是个非常复杂的社会问题,涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒,也需要有技术手段令AI更加安全、可控。在技术层面,生成和鉴伪的对抗性非常强,需要持续长期投入,就像是“猫鼠游戏”,此消彼长,相互博弈。与互联网产品或者其他AI产品不同,AI鉴伪产品并非开发完就结束,而是要随着生成技术的进展不断研究、更新、迭代,没有终点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
长征立下大功的张闻天、王稼祥,为何后来淡出中央核心?

长征立下大功的张闻天、王稼祥,为何后来淡出中央核心?

优趣纪史记
2026-11-05 08:13:21
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

迷世书童
2026-11-09 15:19:32
曹格支持儿子Joe早点结婚:“我很喜欢他女朋友,我觉得他女朋友很棒”

曹格支持儿子Joe早点结婚:“我很喜欢他女朋友,我觉得他女朋友很棒”

韩小娱
2026-11-15 09:55:31
李晓挺:还有90分钟比赛,我们全队不会放弃,一切皆有可能

李晓挺:还有90分钟比赛,我们全队不会放弃,一切皆有可能

懂球帝
2026-11-16 06:12:17
女子裸上身做SPA,推门进来的是男技师,店长还嘲讽“人家20岁小伙看不上你这个大妈”

女子裸上身做SPA,推门进来的是男技师,店长还嘲讽“人家20岁小伙看不上你这个大妈”

一丝不苟的法律人
2026-11-16 11:43:06
方博夺冠的背后,是WTT的不合理!冠军奖金还不够机票钱,难怪樊振东要退出

方博夺冠的背后,是WTT的不合理!冠军奖金还不够机票钱,难怪樊振东要退出

十点街球体育
2026-11-16 17:44:57
黄河不黄了?黄河水变清澈,专家曾称:这不是奇迹,而是警钟

黄河不黄了?黄河水变清澈,专家曾称:这不是奇迹,而是警钟

兴趣知识
2026-11-13 16:00:51
人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

人老了真的没什么意思,我爸今年75岁,独居在家每天就做三件事

千秋文化
2026-06-13 19:41:34
泰山主帅再迎好消息!61岁外国教头亲自出马,中国球迷热烈欢迎

泰山主帅再迎好消息!61岁外国教头亲自出马,中国球迷热烈欢迎

流云随风去远方
2026-11-16 20:50:55
民主党拟将特朗普全体内阁及共和党2028年总统候选人列为调查目标

民主党拟将特朗普全体内阁及共和党2028年总统候选人列为调查目标

阿尔卑斯瞭望
2026-11-16 18:47:41
“糖化血红蛋白”超过这个值,血糖就太高了,糖尿病人要重视

“糖化血红蛋白”超过这个值,血糖就太高了,糖尿病人要重视

观星赏月
2026-11-14 15:35:49
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

东方不败然多多
2026-11-16 20:09:22
麦克阿瑟到晚年总算说了句大实话:当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

麦克阿瑟到晚年总算说了句大实话:当年朝鲜那一仗中国要是没打,如今整个亚洲的大格局,恐怕早就不知变成啥样了

唠叨说历史
2026-11-16 09:29:47
U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

徐扙老表哥
2026-11-16 12:42:49
王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

娱乐团长
2026-07-07 11:00:01
男子没新鲜感了,情妇不肯分手还索要钱财,车震完男子把她杀了

男子没新鲜感了,情妇不肯分手还索要钱财,车震完男子把她杀了

四海神君
2026-11-16 20:30:04
我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

我国存款最安全的3家银行,永远不会倒闭,老百姓放心存!

白浅娱乐聊
2026-11-14 05:27:13
2026-11-16 22:07:00
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
272734文章数 624072关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

亲子
房产
本地
手机
公开课

亲子要闻

宝宝气人但是聪明的4个行为

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版