“扁担女孩”被AI冒充，平台如何应对造假者

“扁担女孩”刘燕考试结束后，自己挑行李回家的画面感动了无数网友。当网友们对刘燕骨子里透着的韧劲心生佩服时，有人却打起了流量生意的坏心思。近日，公安机关网安部门发现，网络上有很多冒充“扁担女孩”刘燕的社交账号，博取眼球、吸粉引流、牟取非法利益。对于这种造假行为，不少网友表示愤慨，话题 #网警查处冒充扁担女孩牟利者# 很快登上热搜，引发热议。

据查，黄某金自网上下载刘燕的照片，利用AI工具制作虚假视频20余部，并发布在2个账号上，共计涨粉7.8万。此外，黄某金还创建会员群，意图通过吸纳群主专属会员赚取收益。目前，属地公安机关依法给予黄某金行政拘留10日的处罚并处罚款。如今，不少人已经可以利用简单的设备，靠AI生成照片或视频，这的确给用户提供了便利，但随着AI被广泛应用，造假成本也大幅降低，有人便动了利用AI生成技术造假的坏心思。

就在不久前，厦门市相关部门就查处了一起利用AI生成技术打造假神医的骗局。不少网友相信的“非遗传承人” 唐付政的形象，同样为AI生成；就连“非遗传承人”证书也是由一家机构违法炮制的。更早前，某营销号宣传所谓“跟着《国医少年志》学护肤”，视频是中国工程院院士张伯礼在镜头前侃侃而谈，宣传某款护肤品，造成非常恶劣的影响，张院士专门出面进行了辟谣。还有“AI张文宏”“AI靳东”，都曾被不法商家当作带货幌子、流量工具。

这次，有人利用AI对扁担女孩下手，再次提醒平台和相关部门，应对人工智能生成内容，监管需持续发力。对AI生成内容进行标识，不能靠用户自觉，平台完全可以接入AI内容生成平台的大模型系统，主动作为，实时进行数据识别对比，然后附加不可删除的数字水印，或者“此图片/视频为AI合成”等文字说明。

利用AI生成冒充他人，毫无疑问是侵犯肖像权的行为，但由于此类侵权行为被发现后，商家付出的代价与收益并不相匹配，所以屡查屡犯，大有泛滥之势。如何建立一个动态调整的监管体系，通过不断探索和优化，最终形成符合社会、行业及技术发展需求的可持续监管模式，值得平台继续思考、改进。相关部门也要加大对虚假宣传、伪造身份、侵犯了肖像权等行为的惩处力度，真正做到违法必究、侵权必赔。

清朗的网络空间，绝不能让AI内容鱼目混珠，模糊了真实的边界。利用技术加强甄别，完善制度加强惩戒，才能杜绝虚假信息的传播，促进AI技术健康发展。

上游新闻评论员 康磊