你刷到过全红婵、孙颖莎、王楚钦卖土鸡蛋的视频吗？别信，那都是假的。近日，网络上掀起一波“打假”风浪，目标直指AI（人工智能）克隆声音乱象。法律专家称，利用AI仿冒他人身份“带货”是违法行为，已侵犯被仿冒者和消费者权益。
“我是你们的婵宝，有事请大家帮忙，今天让妈妈先拿出300单老家的土鸡蛋，给大家放福利”“大家好，我是莎莎，我为婵宝家农家土鸡蛋代言”“大家好，我是王楚钦，昨天收到婵妹私信，说她家土鸡蛋大丰收，这么好的土鸡蛋不发出去就可惜了”……听到熟悉的“声音”，粉丝误以为是奥运冠军本人，纷纷下单购买。殊不知，这些都是通过AI伪造，克隆出的名人声音。
中国人权研究会理事、云南大学人权法研究中心执行主任刘红春说，利用AI仿冒奥运冠军“带货”的行为，已侵犯了他们的肖像权与声音权。他强调，该类仿冒行为并非仅针对名人，仿冒任何自然人均属违法。不法分子选择名人下手，正是看中其社会影响力和公众信任，从而更易达成误导消费者、推销商品甚至实施诈骗的目的。
“这些行为违反了民法典中‘任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权’‘对自然人声音的保护，参照适用肖像权保护的有关规定’等条文。”刘红春说，以上述为例，商家利用AI伪造声音，编造故事，推销商品，已构成对全红婵等奥运冠军声音权的侵害，被侵权人可以要求商家停止侵权行为、赔偿损失与赔礼道歉。
“此举还侵犯了消费者知情权。”刘红春说，如果商家诱导消费者购买高价、低质或不存在的商品，且骗取财物数额较大，就触犯了刑法，涉嫌诈骗罪。
中国政法大学人权研究院教授刘小楠认为，当前互联网平台出现不少AI移花接木的视频，AI换脸、AI盗声的不当滥用，易引发侵犯肖像权、声音权，侵犯公民个人信息及诈骗等犯罪行为，是人工智能技术带来的新挑战之一。她表示，我国目前对AI合成技术已经作出一些规定，如《生成式人工智能服务管理暂行办法》就明确规定：提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
“还有一个好消息是《人工智能生成合成内容标识办法》将从今年9月1日起施行，所有AI合成的内容，必须依法打电子水印，没有标识的，大家可以举报。如果刷到疑似假货，也可录屏举报，或者@官方客服。”刘红春说。
法律专家提醒公众要保持警惕，勿轻信AI生成的音视频或直播，避免财产损失；被仿冒者可拿起法律武器，维护自身权益；网站平台要提升检测鉴伪能力，对此类乱象加大监管，对发布者内容严格审核，做好处置。
“对于AI，我们既要有开放包容的心态，用好发展好，对于它所带来的新问题，也要坚持在发展中治理，明确使用AI技术的底线与红线，真正让科技向上、向善，为人类造福。”刘小楠说。
新闻来源：新华社
编辑审核：黑龙江省司法厅普法与依法治理处
声明：转载此文目的是传递更多信息。如有侵权，我们将及时更正、删除
目前400000+人已关注加入我们
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
