广东
只需十几秒的语音素材，就能精准复刻一个人的声线、模拟其情绪语气，生成任意话术。随着人工智能（AI）“克隆”声音技术不断迭代，并伴随社交平台走入日常生活，一些AI“偷声”滥用现象也不断出现，不仅暴露多重安全问题，甚至还成了诈骗的新方式，给社会治理带来新挑战。
声音是独属于每个人的“听觉身份证”，承载着专属身份属性与人格权益。然而当前部分个人声线未经许可被抓取训练成AI语音包，在短视频、带货广告中肆意商用，甚至被明码倒卖，导致人格权益遭受侵害。线下电信诈骗手段更借AI仿声不断“更新”。不法分子复刻、模仿子女和晚辈音色，编造车祸、急需医药费等紧急说辞，一些老人听见熟悉的声音便慌了神，来不及核实就转出养老积蓄。
乱象丛生的核心症结，在于AI“偷声”侵权成本低廉，维权却困难重重。记者在部分网络购物及二手交易平台上，搜到大批AI克隆软件安装包购买以及声音替换、定制音色服务，价格从十几元到几百元不等，部分店铺交易记录多达上千次。从购买者的使用评价看，这些软件操作简单，不仅可以克隆普通人说话，还能将声音逼真地转为名人和著名角色的声音。
更为重要的是，被侵权后，大部分时候受害人只能靠自己或朋友偶然发现。由于传播路径复杂，侵权音频常经多次剪辑、跨平台转载，技术链条又涉及数据提供方、模型开发者、平台运营方等多方角色，该起诉谁、如何取证，对受害人而言都有很大难度。
技术不能野蛮生长，个人声音不能被当成免费工具。当语音真假难辨，社会信任也将受到严重侵蚀。平台应升级音频鉴伪系统，清理非法售卖声模的交易；司法层面需细化声音权益认定标准，提高侵权、诈骗违法成本；监管方面需要求AI训练平台对数据来源进行合规审查，内容分发平台建立快速响应的侵权投诉处理机制。多方携手为AI应用划定明确的规范边界，才能确保技术以人为本、智能向善。
来源：新华社微信公众号、网络安全宣传周
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
