遏制AI从“深度合成” 沦为“深度伪造”

（来源：衢州日报）

转自：衢州日报

　　胡欣红

　　近日，有网友发现演员温峥嵘同时“现身”三个不同直播间，她身着不同服装推广着不同的产品，动作神态与本人高度相似。其实今年4月，温峥嵘就曾对此进行过声明和维权，但没能阻挡住网络盗播和AI冒充行为的泛滥。

　　AI滥用问题如今可谓泛滥成灾，公众人物的生物特征因高商业价值成为优先侵权目标，但AI滥用早已突破“名人专属”的边界，形成覆盖全人群的风险网络。宁夏警方破获的AI换脸诈骗案中，骗子通过实时换脸伪造亲友视频实施诈骗，让受害者防不胜防。更令人担忧的是，AI技术门槛持续降低，开源工具、消费级电脑即可完成实时换脸，甚至“一张照片就能生成动态视频”，导致侵权违法成本极低，而维权成本却居高不下。

　　AI深度伪造技术的泛滥，正在瓦解人类社会赖以存续的信任基础。AI合成的音视频的逼真度甚至让本人都难以分辨，“耳听为虚，眼见为实”的传统认知被彻底颠覆。这种信任危机早已超越个体权益范畴:消费者因AI虚假代言误购劣质产品，破坏市场诚信；“AI医疗误诊”等虚假信息误导公众决策，威胁生命健康；虚假视频甚至可能激化社会矛盾，动摇公共秩序……

　　“赛博温峥嵘”泛滥让温峥嵘陷入自证困局，维权陷入“封一个、冒一个”的拉锯战。这起看似公众人物专属的维权困境，实则是AI滥用向整个社会发出的信任危机预警——当技术门槛低至一部手机即可克隆人脸、合成声音，当“证明我是我”成为数字时代的荒诞命题，AI已从服务工具异化为潜在侵权利器，其危害正从公众人物蔓延至每一个普通人。

　　遏制AI滥用、重建信任体系，绝非单一主体能完成，需法律、平台、公众形成闭环治理，让技术回归服务本质。

　　法治是治理AI滥用的根本保障。尽管《人工智能生成合成内容标识办法》《深度合成管理规定》等法规已明确要求AI内容“亮明身份”，禁止未经授权使用生物特征信息，但仍需强化法律的刚性约束。一方面要细化追责条款，对AI伪造、传播侵权内容的行为提高违法成本，形成有效震慑；另一方面要完善证据规则，降低被侵权者的举证难度，明确平台与侵权者的连带责任，破解“维权难”困境。

　　平台作为AI内容传播的关键枢纽，必须压实主体责任，落实AI内容标识义务，让AI生成内容“自带身份证”，并建立全链条管控机制，对违规账号实施黑名单管理，追溯资金流向并移交执法线索，而非简单封号了事。还要加大技术研发投入，推广照片视频防伪技术，构建多因素身份认证体系，从源头遏制深度伪造风险。

　　面对AI滥用风险，公众需从“被动防御”转向“主动辨识”。普通人应增强个人信息保护意识，非必要不泄露人脸、声音等生物特征，学习基础辨伪技巧，遇到可疑内容时通过权威平台溯源核实，不做虚假信息的“二传手”。

　　技术本身并无善恶，AI的价值终究取决于人类的选择与约束。唯有以法律划红线、以技术筑防线、以素养强能力，才能遏制AI从“深度合成”沦为“深度伪造”。