文汇时评｜防范AI仿真视频失序，需要明确一个节点

近日，短视频平台上涌现出大量由人工智能生成的“周星驰”电影片段。随着周星驰经纪人一句“都放任不管吗？”的发问，就像一声警报，划破技术狂欢。另一方面，就生成这类视频的技术——Seedance 2.0 AI视频生成模型，也有科技博主在测评中先后6次使用“恐怖”一词。随着事件持续发酵，引发大量对版权和伦路问题的讨论，该大模型目前已紧急暂停真人素材参考能力。

技术层面可按下暂停键，但思考不能暂停，甚至让人有些“细思极恐”：当技术已能轻易篡改、复制乃至“创造”真实时，我们所熟悉的真实世界，将置身何处？支撑法治社会运行的信任基石与伦理底线，又该如何捍卫？

可以说，眼前这场AI视频的狂欢，本质上是一场“拟像”对“真实”的悄然置换。早在1981年，《拟像与拟真》的作者、法国思想家鲍德里亚就曾预言过上述现象演进的三个阶段：从模仿原件的“仿造”，到工业化“生产”无差别的复制品，最终抵达由模型和代码主宰的“仿真”阶段。在“仿真”秩序中，符号不再指向任何现实，它依据自身的逻辑进行增殖与循环，建构出一个比真实更真实的“超现实”。

以假乱真的“周星驰”视频，正是如此。它们并非对某部具体作品的模仿，而是从海量数据中提取其表演的符号特征，重新组合成从未发生过的“表演”。在这个过程中，一个真实的、作为权利主体的个人，由此而被裁剪为可任意调用、拼接的数据碎片。当技术制造的幻象凭借算法获得巨大流量时，人们所依赖的“眼见为实”这一认知基础便开始崩塌。

“符号的胜利”，另一面可能是“真实的崩塌”。在笔者看来，这远不止是简单法律层面的侵权，更可能引发一场认识论层面的深层危机，甚至有可能动摇我们对影像、证据乃至共同现实的基本认知。

面对技术“拟真”带来的失序风险，法律与监管层面的回应必须清晰而有力，要在鼓励创新与划定红线之间找到平衡。实际上，我国已在持续完善相关治理框架。今年1月1日开始施行的新修订的《网络安全法》确立了“统筹发展和安全”的基本原则，为人工智能的研发与应用设定了“鼓励但不可任性”的总体规范。在操作层面，更具体的治理行动也已展开。国家广播电视总局近期启动的“AI魔改”视频专项治理，便明确将遏制对经典作品、公众人物形象的低俗篡改和颠覆解构作为重点。这表明，监管的导向是明确的：技术创新绝不能以牺牲文化尊严、混淆公众认知、侵害个体权利为代价。

法律的红线，正是要为技术狂飙划定安全跑道。单纯以“技术中立”为盾牌，试图置身事外的做法已然行不通。

然而，再明确的法律条文，若缺乏关键节点的有效落实，也难免沦为空中楼阁。从当下情况来看，连接技术与亿级用户的网络平台，就是“关键节点”。而传统互联网治理中的“避风港原则”，即“通知—删除”规则，在当前AI内容海量、瞬时生成的冲击下已显乏力。当AI“周星驰”视频能被轻易制造、分发时，事后追惩不仅成本高昂，且效果有限。因此，平台的责任必须前置。这并非要求平台做到百分百的完美审核，而是要求其承担起与技术能力、商业收益相匹配的合理注意义务。比如，积极利用技术手段构建主动防御体系，通过研发深度合成内容识别技术、严格落实AI生成内容标识制度、对高风险的仿冒类内容进行有效拦截与溯源等。从消极的“通道提供商”转向成为积极的“秩序守护者”，这也是网络平台必须完成的“角色进化”。

简言之，我们并非扼杀技术创新所带来的活力，而是要在有序的保障下释放创新动能。技术的洪流无法倒回，AI在创意、教育等领域的潜力值得期待，但健康的生态必然建立在“以可控换可用”的共识之上。

面对技术狂飙，监管需形成合力，网信、广电、版权、市场监管等部门应建立高效的联动机制。平台必须压实责任，将标识义务、溯源能力与审核体系落到实处，让治理的“技术防线”跑在滥用的前面。另一方面，公众的“AI识读力”教育也日益重要，要面向全民，培养一种对数字内容保持审慎的判断力和新素养。唯有将技术创新锚定在对人格尊严、文化真诚与社会信任的敬畏之中，我们才能避免滑向那个真假莫辨、意义消散的“超现实”荒原，才能真正驾驭浪潮，驶向一个既繁荣创新又真实可信的未来。

（作者为上海财经大学教授）