当AI赋予每个人以假乱真的能力，也要让人能一眼辨出真假 丨每经热评

近日，字节跳动推出的视频生成模型Seedance火遍全网，其呈现出的震撼效果着实令人惊叹。这款模型凭借卓越的物理模拟与视听联合生成能力，仅需几分钟便能生成画质清晰、逻辑连贯的视频，让普通人也能轻而易举地制作出“电影级”的内容。

Seedance 2.0官方案例截图

从最初仅能生成简单文字，到后来能够产出高清图片，Seedance的爆火是AI内容生产的又一次飞跃，也突破了传统内容生产的边界。

AIGC（人工智能生成内容）的发展势头不可阻挡，拥抱技术变革已是必然选择。在内容生产能力方面，AI工具让普通人无需专业技能，就能将创意快速转化为作品，无论是个人创作者还是中小企业，都能借助AI实现创作突破；在成本控制方面，AIGC大幅降低了内容生产的门槛，以往需要几十人团队、数月时间和巨额投入才能完成的项目，如今只需要一两个人借助AI工具就能高效落地，“一人公司”的概念方兴未艾。

但硬币总有正反两面，AI在赋予每个人“以假乱真”能力的同时，也在放大各类风险。

首当其冲的便是版权侵权风险。不少用户利用AI工具生成经典影视、动漫角色的相关内容，未经授权便使用他人IP，周星驰经纪人就曾公开对此表达质疑。

同时，诈骗风险也在不断累积。像电信诈骗这类陌生人实施的诈骗行为，就已给全社会带来了巨大损失。AI生成的足以以假乱真的视频，能够模仿他人的容貌和声音，一旦被不法分子利用，其诈骗成功率或许还会进一步提高。

另外，个人隐私安全正面临着严峻挑战。影视飓风Tim曾透露，他将自己的人脸照片上传至相关工具后，在未提供任何声音、文字提示的情况下，AI竟自动生成了与他极为相似的声音。这也意味着，个人生物信息有可能被AI抓取并利用。

AI的健康发展必须扎根现实世界，守护好个人的信息、财产和心理健康。无论是文字、图片还是视频，AI生成内容都不能脱离现实约束，更不能成为损害个体的工具。现实与虚拟的界限必须清晰，而赋予每个人一眼辨别AI内容真假的能力，正是AI工具普及过程中必须解决的关键问题。

要赋予每个人一眼辨真假的能力，需依托制度规范与技术创新双管齐下，构建一套完善的防护体系。

首先，要严格落实AI内容标识法规。我国早已出台《人工智能生成合成内容标识办法》，其中明确规定，视频类AI生成内容需在起始画面、播放周边等位置添加显著的显式标识，同时在文件元数据中添加隐式标识，包含服务提供者、内容编号等信息。但现实中，不少平台和用户并未严格执行该规定。笔者浏览发现，大量AI生成的视频未添加任何标识，导致用户难以区分真假，因此需强化监管力度，督促服务提供者履行标识义务。

其次，技术手段与顶层制度设计更加重要。笔者提议，可借助区块链技术构建AI作品的数字化身份标签体系，为每一条AI生成内容分配唯一的区块链标签，明确标注生成工具、时间等信息，实现“无标签不生成”。搭建全国统一的AI内容查询系统，可以打破工具与工具、平台与平台之间的数据孤岛。用户在浏览内容时，可通过一键查询确认内容是否为AI生成，让AI内容全程可追溯、可核查。

回顾历史，技术变革始终伴随着新旧共生的考验：200年前的工业革命时期，机器生产的廉价衣物并未使匠人手工缝制技术销声匿迹，后者最终以奢侈品的形式传承至今；100年前，汽车取代马车成为主流交通工具，但马术作为一种运动和文化得以留存。

新技术与旧技术并不总是非此即彼的对立关系，其共存的前提是市场的理性选择，而理性选择的基础是信息对称。如果能够低成本实现信息对称，交易就能达成，市场就能繁荣。

AI同样如此。通过制度设计和技术手段，将AI生成内容与真实内容严格区分，用户为自己的偏好“买单”，让不合规的AI内容在市场无法立足，才能实现AI生成内容与真实世界内容的良性共生。如此一来，既能释放技术创新的活力，又能坚守安全底线，从而使AI成为内容创作的推动力量。

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。

评论员|杜恒峰

编辑|陈柯名

校对|程鹏

｜每日经济新闻 nbdnews 原创文章｜

未经许可禁止转载、摘编、复制及镜像等使用