清朗浦江｜当AI模糊真假边界，我们拿什么守护真实？

来源：市场资讯

（来源：澎湃新闻）

我们每天刷到的内容里，有多少是真实的记录，又有多少是AI的产物？当一张图片、一段视频可以轻易被生成，我们还能靠什么去判断？当技术可以伪造一切，我们还能相信什么？又该靠什么去相信……

3月28日下午，一场主题为“眼见非实·我心为尺”的AI系列主题开放日活动在上海杨浦V聚场举行。作为“清朗浦江·2026”网络生态治理旬的重要活动之一，这场活动没有停留在对AI技术的简单褒贬，而是试图将“真实”这个被反复讨论却日益模糊的概念，重新放回每个人的手中。

活动由哔哩哔哩与杨浦V聚场联合主办，上海市人大代表潘敬芳、林和春，上海市政协委员方建安、白江，来自主办方以及学界、业界共计60余人在近3个小时的碰撞中，共同面对同一个追问：当AI可以生成以假乱真的图像、声音时，我们该如何守护一个清朗、真实的网络空间。

“AI会产”三特点：低成本、高效率、难追踪

作为长期在B站分享AI科普的创作者，UP主“Git源宝”将AI伪造的三种主要形式——声音克隆、AI换脸、AI造谣——逐一拆解。

“Git源宝”现场分享了一个真实案例：某公司财务接到“领导”的视频通话，说要转一笔钱。画面里的“领导”坐在办公室里，表情自然，嘴唇动作和声音也对得上。财务于是就按照“领导”的要求完成转账。结果证实这段视频通话里领导的脸和声音全是AI合成的，犯罪分子根本没有盗号，就是用几张照片和几段语音，实时生成了一个假“领导”。

“更可怕的是，这些东西太容易做了。以前造假需要团队、需要技术、需要成本。现在呢？一个普通人，花几十块钱买个软件，几分钟就能生成一段以假乱真的视频。”“Git源宝”称，目前AI会产已具备低成本、高效率、难追踪三个特点。

如何预防和识别AI诈骗？“Git源宝”给出了三招简单好记的方法：慢、问、查。

“慢”——制造信息差。AI诈骗最大的特点就是制造“紧急感”。只要在电话、微信里听到“急、快、别告诉别人、转账”这四个关键词，我们需要条件反射地告诉自己：停！挂断电话，回拨一个电话。那个AI的临时通话链路，瞬间就断了。

“问”——设置暗号。我们可以和家人商量一个“家庭暗号”，比如“咱们家那只猫叫什么名字？”或者“我们上次吵架是因为什么？”这种涉及隐私且非公开的信息，是AI无法通过大数据抓取到的。

“查”——寻找穿帮镜头，查找多个信息源。AI画人像经常手指数量不对，要么六根手指，要么手指扭曲。如果对方让你转账，我们可以让他“摸一下鼻子”“转头看看侧面”——目前大部分的AI实时换脸，在处理大幅度动作和面部遮挡时，都会出现边缘闪烁、皮肤纹理不自然的情况。

“AI会让真正有价值的内容越来越少”

AI对MCN行业的冲击，远比外界想象的要深刻。

活动现场，月鹭文化内容主编杨付博杰表示，随着AI的不断应用和普及，MCN行业里的很多“潜规则”和结构性问题被不断放大。

杨付博杰表示，“洗稿”和“信息搬运”在MCN行业一直存在，只是以前成本高。现在用AI，几分钟就可以生成一篇“看起来完全不一样”的内容。“大家看起来都在做不同的内容，但本质上讲的都是同一套东西。时间久了，观众也会疲劳的。而且对于做深度内容的人来说，这是一个很现实的冲击，你花三天查资料做出来的东西，别人用AI可能半天就能复刻一个大概。那你还要不要继续做深度？”

“很多人会觉得，AI让内容生产更容易，未来内容会越来越多。但从我们的观察来看，真正有价值的内容，反而可能会变少。”杨付博杰说。

复旦大学可信具身智能研究院青年研究员马兴军则将讨论从行业实践拉升到学术思辨。活动现场，马兴军以“龙虾风暴”为喻，梳理了AI智能体的前世今生。他表示，当AI开始具备一定的决策与交互能力时，内容平台面临的治理挑战也将从“内容真伪”扩展到“行为边界”。

由上海市委网信办主办的“清朗浦江·2026”网络生态治理旬，于2026年3月20日启动。今年治理旬以“网聚民心，携手共筑良好生态”为主题，会同有关部门、各区、互联网企业集中推出40多项形式多样的主题日、平台开放日、校园日活动，并创新举办“清朗集市”，广泛动员各方力量参与网络生态治理，充分体现“监管有行动、企业有担当、网民有参与、社会有共识”的良好氛围。