陈纯院士：构建人工智能安全治理新格局，开创生成合成内容规范发展新路径丨AI应用前沿

互联网、大数据与人工智能等信息技术的飞速发展，在过去半个世纪以来，已推动人类社会走向“人类-信息-物理”三元空间的智能融合，深度渗透至经济社会各领域。党的十八大以来，以习近平同志为核心的党中央高度重视我国新一代人工智能发展，提出了“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应”“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题”等一系列重要论述，深刻阐明了人工智能在国家发展战略中的核心地位和关键作用。近年来，ChatGPT、DeepSeek等生成式人工智能技术的颠覆性突破，正推动人类社会进入新阶段。回望人工智能发展历程，从未有过任何阶段，技术发展的触角从产业革新进一步延伸至人类价值重构，真正成为关系国家数字主权竞争的战略制高点，成为牵动国家兴衰与文明存续的核心变量。

然而，人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险，并削弱着公众对网络传播内容的信任根基。面对人工智能安全治理这一世界性难题，国家网信办适时出台《人工智能生成合成内容标识办法》（以下简称《标识办法》），在全球率先提出保障人工智能安全可信的“中国方案”，具有里程碑式的重要意义。《标识办法》作为互联网信息服务领域贯彻落实《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》的重要举措，配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）同时发布，为人工智能发展奠定了重要基础，成为保障人工智能时代网络生态安全有序的关键手段。《标识办法》和《标识标准》的出台，共同聚焦人工智能生成合成内容服务安全风险，健全了人工智能生成合成内容标识规范，为人类驾驭智能文明提供了至关重要的制度性公共产品，为推动人工智能发展贡献了中国力量。

一、引领全球人工智能安全发展方向，树立生成合成式内容治理典范

当前，信息网络空间成为连接人类社会与物理世界的桥梁，在全球科技创新加速演进的过程中，人工智能已成为决定大国竞争力和未来影响力的核心领域之一。在此背景下，人工智能的规则制定权逐渐成为大国博弈的新焦点，其重要性不仅体现在技术层面，更延伸至国家安全、产业发展和国际秩序塑造等多个维度。

在此背景下，欧盟、美国、加拿大等国家出台了人工智能相关政策法规，条款涉及内容标识，但尚未发布专项法规明确标识形式和技术指标。我国恰逢其时地出台了《标识办法》和《标识标准》，全方位、多层次地规范人工智能内容标识要求和方法，这一举措不仅体现了我国在人工智能治理领域的前瞻性和责任感，也为全球范围内的人工智能安全治理树立了新的标杆，为维护全球数字生态安全与可持续健康发展贡献了中国智慧。

我国正处于从网络大国向网络强国迈进的关键阶段，《标识办法》和《标识标准》的制定与实施，对于构建我国自主可控的人工智能治理体系具有历史性的意义。一方面，标志着我国在人工智能领域实现了从被动防御到主动规制的战略转变，为保障国家信息安全和社会稳定提供了坚实的制度支撑；另一方面，通过完善的治理体系，可最大限度地发挥人工智能的社会价值，维护网络空间清朗环境，最终实现科技服务于人的根本目标。

二、构建人工智能科学技术规范发展生态，推动智能科技产业持续创新

《标识办法》和《标识标准》的发布，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步，对构建规范健全的技术生态和健康可持续的智能科技产业产生了深远影响，其关键作用主要体现在以下三个方面。

首先，为人工智能技术领域规范化发展奠定了坚实基础。《标识办法》和《标识标准》不仅为行业提供了明确的技术指导原则，极大地提升了技术的透明度和可追溯性，为生成式人工智能技术应用划定了红线，也为有效溯源和遏制虚假信息传播提供了技术抓手，维护了网络生态安全。依靠技术手段实现有效治理不仅关乎社会秩序的稳定，更成为了保障经济持续健康发展的关键所在。

其次，为构建更完善的生成式人工智能产业链指明了正确方向。《标识办法》和《标识标准》通过细化生成合成内容管理规则，推动了人工智能产业标准化进程，构建了一个更加公平、透明且高效的市场环境，不仅增强了市场主体参与产业的积极性，助力传统产业转型升级，还促进了产业链上下游的协同创新，为产业规模化发展提供了内生动力，从而助力国产生成式人工智能生态的健康发展。

第三，为“人工智能+”赋能新质生产力发展提供了创新土壤。《标识办法》和《标识标准》有助于全社会建立对生成式人工智能的信任，进一步促进“人工智能+”与各行业的深度融合，催生一系列新业态和新模式，创造新的经济增长点，也有助于我国在全球范围内抢占人工智能发展的制高点，推动形成以技术创新为核心驱动力的新质生产力，从而在新一轮科技革命和产业变革中占据主动地位。

三、以内容标识工作为基石助力人类文明稳步跃迁，谱写人工智能治理新纪元

《标识办法》和《标识标准》的落地离不开全社会的凝心聚力和协同配合。地方主管部门、高校、科研机构、企业可共同参与，充分利用新媒体、新渠道面向全社会进行大力宣贯，形成标识工作先行的多点协同内容治理网络，推动标识工作行稳致远。此外，有必要建立全国性的内容标识公共服务平台，以可视可交互的实际操练形式，配合口头宣贯，促进公众和产业深入理解标识工作。以《标识办法》制度设计为纲领、《标识标准》技术实施规范为指导，浙江大学配合中国电子技术标准化研究院研发的服务平台——人工智能生成合成内容标识服务平台，日前已对外发布使用。通过大力宣贯内容标识政策标准与大力推广公共服务平台相结合的方式，建立全社会共同认知，确保内容标识政策标准的顺利推行、有效落实、持续夯实。

在“人类-信息-物理”三元空间融合、万物互联的智能时代，各类软硬件基础设施已经与经济社会发展的各领域全过程密不可分。作为新一代技术燃料，生成式人工智能驱动基础设施进行更深层次的智能化变革转换，促使信息技术从普通工具属性向“思维伙伴”型高智能化工具属性进化，为当下时代带来颠覆性的发展机遇，在未来势必成为我们必备的技能，与我们相伴相生。这要求我们在使用人工智能时切实正确理解并管理人工智能。人工智能安全框架体系以可控管理的人工智能应用为目标，是我们在智能时代必须完成的历史命题。它不是限制发展的枷锁，而是文明进步的助推器。只有在智能时代保持主导地位，才能实现三元空间中万物和谐共生、人类文明稳步跃迁的美好愿景。

面对有限预知的未来，立足于人类与人工智能共生的发展蓝图，标识工作将成为理解与管理人工智能的开路先锋，为构筑人工智能安全框架体系提供宝贵的实践指南。

来源： 中国网信网

B. P商业伙伴是一家致力于为数字产业生态企业提供全生命周期综合服务的平台。主要为客户提供生态战略咨询与调研、生态拓展与建设，品牌市场营销、生态合作伙伴大会、媒体传播服务等系列服务。旗下拥有B.P数字生态英雄会高端人脉，数字生态全媒体矩阵，数字生态商学院，数字生态研究院等系列平台。

联系18910054692，成为B.P数字生态平台会员服务体系一员，与国内外名企200+董事长、总裁、总经理、CEO、创始人讨论战略发展；加入B.P生态管理者俱乐部与200+生态管理精英对接合作，加入B.P商业伙伴和媒体朋友们与150+央媒、新闻资讯媒体、行业媒体、知名自媒体联合发声。B.P生态社群矩阵60+，覆盖2万人，定期分享课程及干货学习资料。扫码备注：公司 职务 姓名，发名片，审核后，邀请加入。