婵宝、莎莎、“大头”喊你买土鸡蛋？别信，那是AI伪造的

全红婵、孙颖莎、王楚钦

都在卖土鸡蛋？

当你刷到这样的视频

千万别信，是假的！

近日网络掀起一波“打假”风浪

目标直指AI（人工智能）

克隆声音乱象

媒体报道AI克隆声音乱象（视频截图）

小编专门请教了法律专家

得到的结论是：

利用AI仿冒他人身份“带货”

是违法行为

已侵犯被仿冒者和消费者权益

“我是你们的婵宝

有事请大家帮忙

今天让妈妈先拿出

300单老家的土鸡蛋

给大家放福利”

“大家好，我是莎莎

我为婵宝家农家土鸡蛋代言”

“大家好，我是王楚钦

昨天收到婵妹私信

这么好的土鸡蛋不发出去

就可惜了”

媒体报道AI克隆声音乱象（视频截图）

当你听到奥运冠军们熟悉的“声音”

是不是以为他们本人正在“带货”

出于对他们的喜爱和信任

你可能会下单购买表示支持

殊不知

这些都是AI伪造出的名人声音

媒体报道AI克隆声音乱象（视频截图）

云南大学人权法研究中心

执行主任刘红春说

利用AI仿冒奥运冠军“带货”行为

已侵犯了他们的肖像权与声音权

被侵权人可以要求商家

停止侵权行为

赔偿损失与赔礼道歉

“不法分子选择大家喜爱的名人下手

正是看中其社会影响力和公众信任度

从而达到误导消费者、推销商品

甚至实施诈骗的目的”

全红婵、孙颖莎、王楚钦在比赛中。新华社记者 摄

此外，法律专家提示

该类仿冒行为并非仅针对名人

仿冒任何自然人的行为均属违法

如果商家还诱导消费者购买

高价、低质或不存在的商品

且骗取财物数额较大

就触犯了刑法，涉嫌诈骗罪

有可能要坐牢

媒体报道AI克隆声音乱象（视频截图）

中国政法大学

人权研究院教授刘小楠说

当前互联网平台出现不少

AI移花接木的视频

AI换脸、AI盗声的不当滥用

是人工智能技术带来的新挑战之一

我国目前对AI合成技术

已经作出一些规定

《生成式人工智能服务管理暂行办法》

就要求

提供和使用生成式人工智能服务

不得侵害他人肖像权、名誉权、

荣誉权、隐私权和个人信息权益

2023年1月8日，一名女士在美国拉斯维加斯消费电子展上体验智能科技。新华社发（曾慧摄）

值得一提的是

《人工智能生成合成内容标识办法》

将从今年9月1日起开始施行

所有AI合成的内容

必须依法打上电子水印

没有标识的，大家可以举报

如果刷到疑似假货，也可录屏举报

或者@官方客服

比如本图就由AI生成

法律专家提醒大家：

千万不要轻信

AI生成的音视频或直播

避免财产损失

被仿冒者可拿起法律武器

维护自身权益

网站平台要提升检测鉴伪能力

加大监管

对内容严格审核，做好处置

2025世界人工智能大会现场，机器人正在为观众挑选商品。新华社记者 程思琪 摄

对于AI，小编想说的是

我们既要对它开放包容

用好、发展好

对它所带来的新问题

也要坚持在发展中治理

明确使用AI技术的底线与红线

真正让AI向上、向善

为人类造福

来源：新华社