标识制度让AI 更安全可信

原标题：标识制度让AI 更安全可信

《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，更为人工智能生成内容的风险治理贡献了中国方案

近日，国家互联网信息办公室、公安部等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）。同时，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识方法》）已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将于2025年9月1日与《标识办法》同步实施，引发社会广泛关注。

近年来，生成式人工智能技术及应用迅速发展，为用户生成合成多元化的文本、图片、代码、音频、视频、虚拟场景等信息提供了重要工具，促进了人工智能产业的繁荣，也为经济社会发展带来了巨大机遇。然而，生成合成内容真伪混杂、良莠难辨，存在传播虚假信息、危害网络生态、引发诈骗犯罪等多种风险。当前，许多国家和地区正探索将人工智能生成内容标识义务入法，国内外多家互联网公司也在逐步推进标识嵌入和管理举措。内容标识已然成为全球范围内治理人工智能生成内容风险的重要选项，我国对此尤为重视。

经过深入调研、广泛征求意见、多轮技术论证试点通过的《标识办法》和《标识方法》，系统建立了人工智能生成合成内容标识制度，满足了人工智能生成内容治理的多重迫切需求，具有重要意义。首先，《标识办法》的出台有利于内容溯源和风险防控。在“万物皆可AI”的语境下，机器生成的信息比例越来越高、内容越来越逼真，公众仅从信息外观上往往无法判断其来源与真伪。如放任虚假信息泛滥，将严重削弱社会公众对信息网络生态的信任。根据《标识方法》，标识可通过元数据嵌入各种信息，用于记录文件来源、属性、用途等，具体包括生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，同时还可以嵌入数字水印等其他类型的标识，助力监管部门对人工智能生成内容进行溯源分析与研判，及时阻断违法信息和不良信息的传播，从而降低造谣、诈骗、信息污染等风险。

其次，《标识办法》的出台有利于更好保障用户权益。生成式人工智能不仅改变了人们获取信息、创作内容的方式，也使知情权、著作权等方面的权益保障需求变得愈发迫切。根据《标识办法》的要求，对人工智能生成内容的标识行为被具体化为显式标识或隐式标识。显式标识以显著形式发挥类似“署名”的功能，便于公众快速识别内容类型乃至生成来源，有助于保障使用者及公众的知情权，防范被误导、被诈骗的潜在风险。隐式标识则以相对隐蔽的形式隐含了有关作品生成的信息，可以更充分地发挥溯源功能，在防控风险的同时，有利于确认生成内容的著作权归属，保护原创作者的合法权益。

再次，《标识办法》的出台有利于营造健康、透明的内容生态。随着生成式人工智能技术的迅速发展和广泛应用，用户自行辨别内容来源及可信度的能力在具有规模性、逼真度和吸引力的生成合成内容面前日显单薄。《标识办法》和《标识方法》及时回应了对海量生成合成内容赋予“身份标记”的紧迫需求，并且建立了覆盖用户、各类网络信息服务提供者和互联网应用程序分发平台的义务与责任体系，极大便利了公众识别、平台治理和监管研判，为人工智能时代营造风清气正的网络生态提供了基础性的助力。

值得肯定的是，《标识办法》对于标识方案的选择广开言路、实事求是，统筹发展和安全，对于文本、图片、视频、音频等不同类型内容的标识采取了因事制宜的方案，同时鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，对标识核验义务、应用审核义务和留存日志要求等也作出了合理规定，为稳妥有序发展切实可行的人工智能生成合成内容标识体系奠定了基石，并为大模型时代的信息内容生态治理铺平了道路。

《标识办法》与《标识方法》的制定体现了有关部门对迅猛发展的生成式人工智能技术及应用的迅速回应与积极作为，积聚了有益的行政立法经验，更为人工智能生成内容的风险治理贡献了中国方案。展望未来，生成式人工智能的应用场景还会不断拓展，现有的制度成果仍需紧跟时代步伐，持续优化完善，以更好地应对复杂多变的风险挑战。为此，要进一步充实和完善生成式人工智能风险治理的“制度工具箱”，建立融合支持发展、激励创新、防控风险、保障权益等多方面目标的人工智能风险治理体系，引导生成式人工智能技术及应用良性发展，为公众提供更加安全、可信、优质、可持续的人工智能服务，让人工智能真正成为推动社会进步、提升人类福祉的强大引擎，助力开创更加美好的数字未来。

（苏宇，中国人民公安大学法学院教授、数据法学研究院院长）

来源：法治日报