新华每日电讯：演员形象频遭AI盗播，强制标识为何难阻AI造假

近日，有网友发现演员温峥嵘同时“现身”多个直播间，她身着不同服装推广各类产品，动作神态与本人高度相似，不知情的观众极易信以为真。但事实上，这是不法商家利用录屏抠图或盗用过往直播素材，用AI生成的虚假内容。

随着人工智能技术逐渐成熟，AI换脸门槛降低，这一原本用于影视等领域的技术，如今却成为不法商家炮制AI“李鬼”、谋取私利的工具。此前主持人李梓萌的AI形象被用于推销“深海多烯鱼油”，结果被查出产品仅是普通糖果。奥运冠军、专家教授等各界名人也屡遭AI换脸带货。而带货视频中的商品多是山寨货，与宣传相差甚远。这种行为不仅侵犯名人肖像权、声音权，还可能损害消费者权益、误导公众。

今年9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等，都要添加标识以明确来源和真实性。新规的出台为治理AI造假乱象提供了制度保障，有助于推动人工智能规范发展。

然而现实中，不少造假者将标识藏在视频、直播简介的角落，用极小的字体显示，消费者很难注意到。有的商家利用技术手段对AI生成内容进行去标识化处理，或将AI合成内容拆分、在多个账号碎片化发布，让AI造假内容混迹在正常信息流中，难以被精准识别。

部分平台在内容审核方面也存在不足，有的平台尚未建立起“事前预防、事中监控”的全流程治理体系。更值得警惕的是，由于AI仿冒名人的直播自带“名人效应”，能快速吸引消费者点击购买、提升商品转化率，部分平台的推荐算法也有可能在没有识别出此类侵权内容的情况下，助长其传播扩散。

对于被侵权者来说，即便发现疑似侵权内容，要想固定证据、证明相关内容由AI生成，过程复杂且技术门槛高。而立案诉讼往往耗时数月，在此期间，侵权内容可能已广泛传播。违法成本低、维权成本高的现实，使不法商家有恃无恐，助长了其嚣张气焰。

AI技术本应更好地服务于人，而非成为侵权造假的工具。破解AI造假困境，需要监管部门进一步规范AI技术应用标准，加大对违法商家、失职平台的处罚力度，强化制度建设、筑牢监管防线；平台也应主动承担主体责任，加大技术投入，优化AI内容识别系统，完善审核机制与追责体系。唯有以技术赋能创新，以规则护航发展，才能让AI真正成为推动社会进步的力量。

来源：张晓雨/新华每日电讯