倪考梦：生成式人工智能时代 政府如何维护真相、正义与秩序

图片来源/摄图网授权

■倪考梦

进入生成式人工智能（GenAI）时代后，公共舆论场正在发生深刻变化。过去，谣言传播主要受制于内容生产能力；今天，AI大幅降低了伪造门槛，虚假图片、音频、视频可以被批量、低成本、情绪化地生产出来，并借助平台算法迅速扩散。2026年4月前后，英国选举委员会启动深伪监测试点，专门识别可能误导选民的伪造音视频；美国中期选举中，AI深伪广告已被实际用于竞选传播；美国佛州还出现了利用AI伪造短视频、诱导警方按真实警情反应的案件；伊朗战争相关传播中，大量AI生成或篡改的战争影像在社交平台扩散，真假混杂、真伪难辨。它们共同说明，AI带来的风险已不再只是“信息失真”，而是开始直接冲击公共安全、政府公信力和社会秩序。

这意味着，我们面对的已不是一般意义上的网络谣言治理问题，而是一个新的“真实性治理”难题。在AI可以一键生成以假乱真内容的“后真相时代”，舆论竞争越来越不是事实与事实的竞争，而是情绪与情绪、叙事与叙事、速度与速度的竞争。谁先占据公众注意力，谁就更容易塑造认知框架。AI不只制造虚假内容，更会制造“真假难辨”的怀疑气氛，消解公众对权威信息的基本信任。斯坦福大学发布的《2026 AI Index》显示，美国公众对美国政府“负责任监管AI”的信任度仅为31%。古人云，见不贤而内自省也。美国的数据提醒我们，在AI时代，政府最稀缺的资源之一，很可能不是算力，而是公信力。

在新形势下，政府维护真相、正义和秩序，首先要在理念上完成一次转变。联合国教科文组织（UNESCO）发布的数字平台治理指南强调，平台治理必须把表达自由和信息获取权放在核心位置；欧洲委员会《人工智能框架公约》则把法治、透明、监督、责任与救济等并列为AI治理的基本原则。

从制度层面看，最重要的是把应急式舆情反应，升级为常态化真实性治理。第一，要建立跨部门快速核验机制。宣传、网信、公安、应急及相关行业主管部门以及重点平台联络机制，不能在事件发生后临时拼接，而应形成平时演练、战时联动的常设机制。第二，要建立政府自身的内容合规规则。凡涉灾害事故、公共卫生、政策解释等高敏感内容，相关部门在使用AI辅助制图、配音、剪辑、生成图卡时，应明确边界、强制审核、显著标识、全程留痕。第三，要把权利救济嵌入治理流程。公众一旦遭遇伪造侵害，应有清晰的证据固定、快速申诉、平台协查和依法追责通道。

从技术层面看，政府要调整思路，重点不是单纯“识别假”，而是更主动地“证明真”，对权威发布的图片、音频、视频、图解进行统一签名、可信标识、元数据留存和版本管理；对重大事件的现场素材、通报链条、原始证据进行统一归档；对外发布时尽量做到来源可核、流转可查、修改可追，让真实信息在技术上拥有“身份证”和“履历表”。为此，我国在2025年9月起施行《人工智能生成合成内容标识办法》要求，AI生成内容必须添加显式标识（如“AI生成”字样）和隐式标识（嵌入文件元数据的溯源信息），以区分真实内容与AI生成内容，便于公众识别和监管部门追溯。

当然，也必须看到，技术认证本身并不等于事实真相。来源凭证可以证明“这是谁发布的、改过几次、链条是否完整”，却不能替代对现实世界的核查。因此，真正可靠的治理方式应是“来源证明+异常检测+人工复核”的三位一体：用技术提高速度，用制度保证程序，用人工审核兜住底线。特别是在高风险场景，更要坚持机器辅助而不迷信机器，让技术为责任服务，而不是让责任被技术替代。

进一步说，后真相时代的舆论引导与舆情治理，不能只做“删帖者”“辟谣者”，更要做“公众韧性的培育者”。提高媒体素养、数字素养和批判性思维，是应对错误信息和AI操纵内容的长期条件。对政府而言，这意味着要把真实性教育纳入学校教育、基层治理、干部培训和公共传播体系之中，让公众逐步形成基本的核验意识、证据意识和程序意识。真正稳固的秩序，需要公众知道什么值得信、为什么值得信，以及当真假冲突出现时，应当依靠什么程序去分辨。只有当社会整体具备了更强的真实性判断能力，政府维护真相的成本才会下降，维护正义和秩序的基础才会更加牢固。

归根到底，面对AI带来的新问题新挑战，政府既不能退回到单纯封堵的旧思路，也不能把希望寄托在某种万能技术之上，而是要以法治为底线、以程序为支撑、以技术为工具、以公信力为核心，构建一套让真相更容易留下证据、被快速验证、被可信传播、被依法救济的治理体系。谁能率先形成这样一套体系，谁就更有可能在人工智能时代真正守住真相、正义与秩序。

（作者系温州市人工智能学院副院长，中国社科院人工智能研究促进中心特约专家）

总 监 制丨王列军车海刚

监 制丨陈 波 王 彧 杨玉洋

主 编丨毛晶慧 编 辑丨曹 阳