网易首页 > 网易号 > 正文 申请入驻

AI短剧盗脸窃声频发,专家:步态和虹膜也或被盗用,需多方协同治理

0
分享至

来源:市场资讯

(来源:澎湃新闻)

AI短剧、漫剧等盗声现象近日引发关注,人脸、声音等生物信息被盗用的侵权问题不断显现。

8月16日,配音演员马正阳发声明称,被热播剧广告、番外剧盗声。随后,涉事广告番外剧制作方回应称,侵权内容为即梦AI生成。

如何盗用生物信息的?近日,复旦大学可信具身智能研究院青年研究员马兴军告诉澎湃新闻(www.thepaper.cn),模型从大量样本中学习,基础模型的训练素材来源,包含公开网页、开源数据集、采购语料、用户上传。但网上公开可见的内容,不等于可以直接用于训练或者商用。

中国科技大学网络安全学院副院长张卫明称,AI基础大模型会抓取网络公开资源用于模型训练,所以出现的侵权现象比较普遍。他预测,未来,不仅是声音和容貌,人的技能也可能会被AI侵权。AI水印技术是治理这类侵权的手段,但解决问题不能仅靠技术单打独斗,需要立法、监管、司法多方面协同。

AI流水线:模型学习规律,训练素材来源公开网页等

此前,热播剧《九门》中的番外剧,以及剧中一段药品广告的配音,与配音演员马正阳的声线高度相似,该演员的声音疑似被AI盗用。

8月16日,马正阳发布《严正声明》称,从未以任何形式授权该剧出品方、广告主、广告制作方、AI技术服务商及任何关联主体,以任何方式,将本人声音数据或声音特征使用在该剧的番外动画及插播广告中。经审慎比对,有充分理由相信,前述内容是未经授权,通过AI技术对他的声音进行提取、处理及合成后生成的。


配音演员马正阳发布的维权声明。微博截图

随后,涉事广告制作方“成都顽猴”回应称,前述广告和番外剧配音,由顽猴传媒使用即梦AI工具自动生成,在制作时,顽猴传媒未能判断AI声音的归属与来源,可能导致产生了与马正阳先生声音相似的结果。


制作方成都顽猴发布回应声明。微博截图

对于涉嫌侵权广告和番外剧的制作过程,成都顽猴传媒有限公司拒绝回应。

AI工具是如何训练的,又是如何盗用生物信息的?近日,中国科技大学网络安全学院副院长张卫明在接受澎湃新闻采访时表示,“AI侵权现象比较普遍,不仅明星演员,普通人也可能被侵权。”

张卫明介绍,AI短剧、漫剧的生产,属于多模态协同的自动化内容生产流水线。大语言模型承担编剧、输出分镜;扩散模型、视频生成模型充当摄影师、动画师;文本转语音、音乐模型负责配音作曲;再由智能调度系统作为“导演”统筹整合全部内容,模拟传统影视工业各个岗位的工作。

“模型并不会真正理解表演,只是从大量样本中学会理解画面和声音。”复旦大学可信具身智能研究院青年研究员马兴军介绍,基础模型的训练素材来源广泛,包含公开网页、开源数据集、采购语料、用户上传等。具体到短剧的制作环节,会采用肖像、声音等授权素材,或是自行拍摄、设计素材,也可能抓取网上的公开照片、视频、录音等素材,提取五官和声线。但网上公开可见内容,不等于可以直接用于训练或者商用。

张卫明称,基础模型训练会抓取一些社交平台上的网络公开资源,也会使用正版授权数据,现在还出现AI合成数据反哺训练模型的新现象。在短剧的实际生产环节,部分素材会调用免费版权图库API获取。但现实中,未经授权就抓取人类音视频数据的情况大量存在,而且目前已经形成了灰色产业链,并由此引发了不少诉讼。

张卫明坦言,从技术设置层面,开发者完全可以设定,只从授权渠道获取素材,但并不是人人都会这样做。

步态、虹膜也可能会被盗用,需立法、司法、监管多方协同

马兴军表示,在AI大规模训练的背景下,多模态生物信息会被更多采集学习。“除人脸、声音之外,步态、虹膜、体态这类难以更改的生物特征,未来也存在被纳入使用的可能性。(但)技术上可以做到,不代表可以随意使用。”

张卫明也认为,技术平权降低了换脸、声音克隆的操作门槛,出现大量侵权现象,他也担心,随着技术不断更新迭代,侵权会进一步延伸。比如,在AI技术发展下,人的工作技能也已被克隆复制。

据大河报今年4月6日报道,山东一游戏传媒公司尝试将离职员工训练成AI数字人继续工作,该员工离职前是人事专员,其数字分身目前能做咨询、邀约、制作PPT和表格等简易工作。

在维权方面,张卫明介绍了三个难点:第一,合成技术可以对音色做微调、多个人声混合,干扰鉴别结果;第二,侵权内容经过多次剪辑、跨平台传播,传播链复杂,溯源十分困难;第三,司法鉴定会产生经费成本,维权成本高。多重因素叠加,造成如今的维权困境。

而在监管方面,张卫明称,一方面是技术平权降低了侵权门槛,法律法规的迭代需要跟上技术发展速度;另一方面是产业链扩张快,监管需要同步跟进,降低维权成本。

在技术上是否有解决办法?张卫明表示,公众能看到的“AI生成”提示属于显式标识。2025年9月实施的《人工智能生成合成内容标识办法》对显式标识作出规定,但显式标识存在一定局限,文件对隐式水印暂未做强制要求。

张卫明解释,隐式水印即不可感知水印,包含文本、图片、视频、语音水印,他和研究团队曾提出“音色权水印”,“原始音频嵌入水印后,即便被盗取训练声音克隆模型,新生成的克隆语音仍可以提取水印;同时实现跨模态水印,静态图片植入水印后,用该图片生成的视频依旧保留可提取水印,能够追溯素材来源。”

他着重强调,只依靠技术,无法彻底整治AI对生物信息的侵权问题,要彻底解决这类侵权问题,需要立法、司法、监管、技术、行业自律等多方协同。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

爆角追踪
2026-11-18 11:01:03
新一轮制裁开启,A股失守3600点

新一轮制裁开启,A股失守3600点

睿知睿见
2026-11-18 07:23:02
刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

韩小娱
2026-11-18 08:10:38
克里米亚议长:泽连斯基害怕返回乌克兰,因此大部分时间待在国外

克里米亚议长:泽连斯基害怕返回乌克兰,因此大部分时间待在国外

麓谷隐士
2026-11-18 00:40:04
忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

锐评利物浦
2026-11-18 10:15:40
李女士的悲剧,痛惜,痛惜!

李女士的悲剧,痛惜,痛惜!

新动察
2026-11-18 10:01:19
深圳APEC领导人会议今日开幕,你必须知道的10件事

深圳APEC领导人会议今日开幕,你必须知道的10件事

刘润
2026-11-18 08:07:50
售卖“蒂法手办”被抓!原因竟是盗版做得比正版还好,完全分不清

售卖“蒂法手办”被抓!原因竟是盗版做得比正版还好,完全分不清

邻居的小蜘蛛
2026-11-17 16:27:34
高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

城事堂
2026-11-17 09:03:52
英伟达临时CEO证实:H200正式退出对华销售

英伟达临时CEO证实:H200正式退出对华销售

快科技
2026-11-18 11:37:03
男性黄金体重公布,过瘦过胖都不好,170、175、180 厘米各参考

男性黄金体重公布,过瘦过胖都不好,170、175、180 厘米各参考

牛锅巴小钒
2026-11-18 13:05:17
宁波:高速堵满了集卡,夜市却空了一半

宁波:高速堵满了集卡,夜市却空了一半

茶狐看世界本尊
2026-11-18 13:25:44
姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

八怪娱
2026-11-18 09:29:26
比2-2更扎心的,是巴林主帅桑切斯赛后的表态,简直是对国足的双重羞辱

比2-2更扎心的,是巴林主帅桑切斯赛后的表态,简直是对国足的双重羞辱

南海浪花
2026-11-18 01:30:46
老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

秋风妃
2026-11-17 22:55:03
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
大厂主动报案,副总裁被警方带走

大厂主动报案,副总裁被警方带走

中国新闻周刊
2026-11-17 23:06:06
全球化退潮,APEC如何寻找新定位?

全球化退潮,APEC如何寻找新定位?

凤凰WEEKLY
2026-11-18 14:59:22
元首外交“深圳时间”开启,密集会晤聚焦哪些重要话题?

元首外交“深圳时间”开启,密集会晤聚焦哪些重要话题?

上观新闻
2026-11-18 12:16:34
老婆跟男邻居旅游七天,回来往我身边凑,我推开她说了一句话

老婆跟男邻居旅游七天,回来往我身边凑,我推开她说了一句话

雾岛夜话
2026-05-27 17:28:50
2026-11-18 15:48:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5532358文章数 10025关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

手机
游戏
本地
公开课
军事航空

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

英国法庭驳回索尼PlayStation数字内容集体诉讼

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版