不能任由AI克隆声音在网络横行｜新京报社论

▲网传AI仿冒全红婵带货画面。图/央视新闻

“大家好，我是你们的婵宝，今天有事请大家帮忙。婵妹就想着帮助妈妈，让家里的生活过得更好一点，同时把老家的土鸡蛋分享给粉丝们尝尝……”

据央视新闻报道，在互联网上，奥运冠军的“声音”突然开始推销农产品，知名演员的“声音”24小时不间断在直播间与粉丝互动……随着AI技术的普及，“克隆”特定人物声音已实现“一键式”操作。当声音能被轻易窃取和滥用，随之而来的侵权乱象频繁上演。

在媒体的梳理里，全红婵、孙颖莎、王楚钦这些知名的运动员全都“中招”。他们“推销土鸡蛋”被AI工具一键生成，搭配上他们的画面镜头，利用粉丝对运动员的喜爱，迅速就可以“起号带货”。

这是很恶劣的伎俩，不仅侵犯运动员的人格权，也在诓骗利用消费者的情感，让很多人误以为真的在帮运动员的“家里生活过得好一点”。如果任由AI克隆声音在网上横行，不仅会伤害粉丝群体对运动员的信任，冲击正常的带货生态，长此以往也会损害人们对真实与善意的基本信赖。

同时，也要看到，随着技术进步，侵权和维权的成本逐渐不成比例，这在客观上造成了此类乱象屡禁不止。

据网络安全专家介绍，基于开源的语音大模型，只需一段清晰的语音样本，任何人的声音都可能在极短时间内被克隆，并能被操纵说出攻击者设定的任意内容。可见，AI克隆声音几乎是零成本、零门槛，早已能轻松实现。

然而，想要维权却并不容易。此前很多靳东、刘晓庆、古天乐、张文宏等知名人物都曾遭遇类似困境，也都纷纷发布声明表示维权，但实际走到法律层面的并不多。这些账号往往变换迅速，内容删除、隐藏频繁，给取证造成巨大困难，也因此有法律人士指出，“部分受害方遇到该情况往往会迫于无奈，放弃以诉讼方式维权。”

但这种侵权行为不应该是个无解难题。可以想象，随着AI技术的普及，类似产品可能会越来越多、传播越来越隐蔽，如果只靠被侵权者“一个个去追责”，恐怕也是捉襟见肘。反过来说，只有在技术和制度层面提前“补漏”，才更有可能实现有效封堵。

首先，应该尽到审核把关之责的就是互联网平台。互联网平台理应在直播上线、广告投放、商品销售等关键环节完善风险识别机制，对涉及名人头像、声音的带货行为进行重点审核。一旦发现疑似AI克隆造假，应当主动拦截、第一时间下架，阻断其传播。

今年9月1日将施行的《人工智能生成合成内容标识办法》，其中也对“生成合成内容添加显式标识”“提供网络信息内容传播服务的服务提供者应当采取技术措施，规范生成合成内容传播活动”等提出了明确要求。

对此，互联网平台也应当对标要求，进一步完善技术识别能力，规范AI内容的标记，并对有意绕开标记规范的账号进行严肃处理，从而规范平台整体的AI应用生态。

另外，相关部门也可以考虑和平台建立消费者举报、被侵权者维权的绿色通道，对平台的证据保全等提出细化要求。在维权诉求发出之后，相关各方可以迅速联动，完成素材封存、账号锁定、传播追踪等关键动作，将传播、取证到司法裁判各环节都打通、提速，提升维权效率，让侵权者付出沉重代价。

长远来看，治理AI克隆不仅是保护个体权益、维护市场秩序，更是为人工智能产业的健康发展扫清障碍。只有在发展与监管之间找到平衡，将技术创新置于明确的法律边界和伦理规范之中，才能真正让AI成为推动社会进步的正向力量，从而构建一个更透明、更可信赖的数字世界。

编辑 / 徐秋颖

校对 / 杨许丽