网信办严查AI假人设，换脸冒充他人将被整治！

导读

中央网信办9月启动“清朗·整治AI应用乱象”专项行动第二阶段。

重点之一：用AI“换脸换声”假冒公众人物、虚构低质人设博取流量。

此前已依法处置一批账号，并督促平台补充内容标注。

下一步，网信部门将对AI生成合成内容的新风险持续防范。

中央网信办9月启动了“清朗·整治AI应用乱象”专项行动第二阶段，点名整治AI假冒仿冒他人、打造虚假人设博流量等乱象。技术没有原罪，但拿它扮别人、骗流量，这条路正在被堵上。专项行动第二阶段列得很细：有人用AI换脸换声，冒充名人带货；有人编个“惨遭欺骗”的人设，立“反诈主播”吸粉。还有人拿AI魔改名著等，把人物人设改得面目全非，只为蹭流量。

共同点只有一个：用技术虚构一个“别人”，来骗真人的信任。

01

这次整治，盯上的是“假人设”

技术能生成一张脸，却生成不了那份“真人该有的担当”。

因为它消费的是人的善意。老人信了冒充的“专家”，病人信了编造的“神医”。

02

为什么“假人设”特别招恨

普通人也分不清屏幕那边是真人还是模型，信任成本被悄悄抬高。

当“谁都可能是假的”成为默认猜疑，吃亏的从来不是骗子一个人。

整治不是只删号。网信部门同时要求平台给AI生成内容打标识。

03

平台也得补上“身份证”

该标的没标，平台也要担责。

这一步，是把“这是AI做的”明明白白写在脸上。

04

普通人能做什么

大家看到相关的内容，也可以先停三秒，去官方渠道核实。

遇到AI换脸视频，别急着转，查证来源再说话。

你每一次不轻信、不转发，都是在给乱象降温。

清风正气，从“看清谁在说话”开始。