AI换脸拟声滥用频现，颠覆性技术急需规范化使用引导

“一些喜欢我的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。“3月5日，在政协小组讨论上，全国政协委员、演员靳东表示今年自己的提案之一是加快与AI应用相关的立法工作。

无独有偶，就在此前一天，全国人大代表、小米科技董事长兼CEO雷军公开了自己今年带上全国两会的5条建议，其中一条也是“加强‘AI换脸拟声’违法侵权重灾区治理”。

靳东和雷军关注AI换脸拟声，有一个重要的相同原因是，他们都曾是被“换”和“拟”的对象。

（图源 新华社）

去年底，江西一位老人到银行声称要贷款200万给“男朋友靳东”拍戏用。经民警了解，老人所谓的“靳东”是由诈骗分子通过AI换脸合成的，再经由视频平台与老人“网恋”。去年国庆假期期间，短视频平台出现了大量“雷军配音”的恶搞视频，不仅言辞犀利，还不时爆出粗口。为此，雷军不得不专门发布视频，澄清相关语音是由AI模拟生成，并呼吁大家停止恶搞。

事实上，苦于被AI偷走面孔和声音的，远不止靳东与雷军。从已有报道来看，前有“假张文宏”深夜直播带货，后有“假刘晓庆”分享人生鸡汤，最近还有“假古天乐”代言游戏平台。可以说，以现在的技术水平，只要有影像和声音素材，就没有AI冒充不了的人。

AI换脸拟声一旦被滥用，危害不胜枚举。首先，这涉嫌侵犯被模仿者的个人信息、肖像权乃至名誉权。其次，利用AI制造出的虚假形象和声音，不法分子可以从事诸如诈骗、诱导消费等各类违法犯罪行为，给受害者造成人身财产损失。更有甚者，为博取眼球与流量，不法分子不惜用AI制造“有模有样”的虚假事件、新闻并进行传播，若长此以往，人们会陷入真假难辨的信息流中，进而导致一系列社会问题。

引人关注的是，在一部分代表委员关注AI应用过程中出现的弊端时，也有代表委员热切期待AI能在不同行业和领域发挥实质性的作用。比如，全国政协委员、复旦大学数学科学学院教授郭坤宇提出，AI技术可以带来虚拟教育资源，打破物理阻隔，使偏远地区的学生也有机会获得优质的教育；全国人大代表、陕西师范大学黄河研究中心主任方兰有感于科技对农业的巨大作用，希望能借助AI技术推动黄河流域精准农业提升……

除此以外，关于AI人才培养以及其对产业和岗位的影响等，也是今年全国两会上不少代表委员热议的话题。由此可见，随着技术的突破和发展，AI已彻底走出实验室，逐渐向与普通大众息息相关的基础设施发展。这也意味着，为AI技术应用制定标准、规则以及底线，已迫在眉睫。

（图源 新华社）

目前，我国已出台的对AI技术应用的规定包括《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》，对深度合成内容的用途、标记、使用范围以及滥用处罚作出了规定。此外，2024年9月，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，进一步明确，无论文本、音频、视频还是虚拟场景，都必须“在适当位置添加显著的提示标识”。但从实际情况来看，一来对恶意深度合成的追责存在证据标准高、取证困难等难题，二来AI生成内容标注缺乏明确标准，这都在一定程度上导致了AI换脸拟声滥用难治理的情况。

技术本无好坏之分，但在人类发展史上，每一次科技进步，无论大小，在带来便利的同时也多少会引来“麻烦”。科技是否向上向善，最终决定因素是人。具体到AI技术，除了像靳东、雷军呼吁的那样尽快出台更具操作性的法律法规，从AI行业，到落地平台，再到普通用户，都应通过参与制定和履行标准、规则，来承担起责任和义务。只有这样，被认为有颠覆性意义的AI技术才能真正帮助人类再一次实现自身的飞跃。

来源：工人日报客户端