如何鼓励AI创新同时防范伦理安全风险？南宁这场论坛给出“中国方案”

5月19日，2026年中国网络文明大会人工智能赋能网络文明建设论坛在广西南宁举行。

会上，全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引1.0》(以下简称《指引》)。《指引》聚焦人工智能应用中的伦理安全问题，明确了人工智能应用开发、服务提供和应用使用等安全指引，旨在推动相关主体正确认识和妥善应对应用活动中的伦理安全影响，促进人工智能应用在规范有序、安全可控的轨道上健康发展。

会上，中国政法大学人工智能法研究院院长、联合国高级别人工智能咨询机构中方专家张凌寒对《指引》进行专题解读。张凌寒表示，这份《指引》不仅在于提出智能向善的原则，更在于把人类主导、群体保护、国际衔接和全生命周期治理系统连接起来，为人工智能应用提供了更具操作性的制度框架。

“面向未来，真正有效的人工智能治理，不是简单压制技术，而是通过权责清晰、合作共生、普惠共享的制度安排，让技术创新更稳健地转化为社会进步、人民福祉和可持续发展的积极力量。”

揭示AI的六大“副作用”

张凌寒介绍，这份《指引》不只是新增了一份规范文本，更在于它回应了一个越来越现实的问题：当生成式人工智能、智能体等新技术快速迭代，并持续进入教育、医疗、政务、内容传播、情感陪伴等复杂场景之后，我们究竟该如何在鼓励创新的同时，有效防范应用过程中的伦理安全风险。

▲全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引1.0》

《指引》提出了人工智能带来的六大结构性影响。张凌寒介绍，这6类影响系统归纳了人工智能应用外溢效应。

其中，第一，是对人类主导权的影响。随着系统自主性的不断提升，人工智能可能在越来越多场景中超出人类原本设定和可控的范围。如果关键决策节点缺乏监督、干预和纠偏机制，人类在社会运行中的主导地位就可能被实质性削弱。

第二，是对公共秩序的影响。人工智能深度进入社会运行之后，技术演进往往快于社会适应。原有的行为规范、市场规则和责任分配机制，都可能受到冲击，甚至影响社会赖以维系的基本信任结构。

第三，是对个体认知与社会价值的影响。人工智能不只是提供工具，它还会持续介入判断、交流、陪伴和价值塑造过程。如果缺乏边界控制，技术便利就可能转化为认知依赖，乃至对价值体系造成冲击。

第四，是对社会分化和歧视的影响。自动化决策可能把历史偏见编码进模型，再通过推荐、筛选、排序等过程被持续放大，从而对特定群体造成结构性不利后果。

第五，是对生命健康与基本权益的影响。这不仅包括自然人的生命健康、人格尊严、隐私财产，也包括组织合法权益。风险既可能落在个体身上，也可能落在机构和公共主体身上。

第六，是对生态环境的影响。人工智能发展的背后，是持续扩张的算力、能耗和资源消耗。治理不能只关注能力提升，也必须考虑绿色约束和可持续性。

以人为本就是对易受影响群体的优先保护

张凌寒介绍，《指引》在治理理念方面，最鲜明的特点，就是把以人为本、智能向善贯穿于人工智能应用规范的始终。近年来，我国人工智能伦理安全治理体系在持续完善，已经初步形成了从伦理安全原则到程序规范、再到具体场景规则的制度脉络。前期的伦理安全文件，更多解决的是原则问题。专项规章，更多解决的是行为边界问题。而《人工智能应用伦理安全指引1.0》则进一步向下延伸，把宏观伦理安全要求转换为开发、提供、使用三个环节中的可操作规则。

▲张凌寒发言

《指引》的人本立场还体现在对易受影响群体的优先保护。张凌寒说，《指引》特别强调劳动保护、群体普惠和消除数字鸿沟。因为，技术发展不能只服务于最强者、最熟练者，也必须优先回应最容易受到排斥、误导或伤害的人群。比如，对未成年人，要重点防止沉迷、误导和价值观偏移。对老年人，要重点防止数字排斥和信息误导。对残障人士，则要强调可及性、公平性和辅助增能。同时，在技术应用过程中，还应关注劳动者权益和机会均等，防止新技术对就业和社会融入造成新的结构性压力。

“中国方案”不是封闭竞争

在国际层面，张凌寒指出，当前全球人工智能治理面临几个突出挑战：一是技术壁垒加深，核心技术、算力和数据资源被少数主体掌握；二是规则碎片化，不同国家和地区的监管标准差异明显；三是数据鸿沟持续扩大，封闭排他的路径可能进一步拉大南北差距。

张凌寒表示，《指引》强调的敏捷共治原则，提出要加强安全互认，推动治理规则、技术标准和安全基准的国际衔接，同时倡导开源共享、知识成果共享、最佳实践共享和安全治理经验共享。

“这表明，我国在守住国内安全底线的同时，也在积极推动开放包容的国际合作路径。也就是说，‘中国方案’不是封闭竞争，而是规则联结、普惠共享和敏捷共治。”

▲图据图虫创意

伦理安全不是某一个主体的单方责任

谈到“具体怎么治理时，张凌寒表示，人工智能治理是一项系统工程，单一环节的规制很难应对跨边界、跨主体、跨场景的技术风险，因此必须构建全链条、全生命周期的治理体系。《指引》给出了参与主体的责任矩阵：

第一是开发者责任。开发者决定了技术演进方向，因此必须把安全可控、公平公正、隐私保护等伦理安全要求作为设计中的默认设置。在数据选择、目标设定和算法设计等源头环节，就要充分关注偏见歧视风险，并建立必要的事故信息追溯机制，为后续复盘和责任追踪提供基础。

第二是服务提供者责任。服务提供者连接技术和用户，因此其运营规范程度直接决定风险控制效果。特别是在关键领域场景中，如果使用不可解释的人工智能，就应当将其限定为辅助决策工具，而不能作为直接决策依据。同时，还要设置人工复核、拒绝和干预选项，以及人工紧急干预、中止应用等事故应急处置机制。

第三是使用者责任。使用者同样是数字生态的重要共建者，需要提升人工智能使用素养，形成理性、审慎的使用习惯。在生成内容对外发布时，应履行主动声明和标识义务，不利用技术伪造身份、仿冒权威主体，也要审慎输入和分享敏感信息，防止因不当使用导致权益受损。

▲张凌寒

张凌寒说，最核心的意思是，伦理安全不是某一个主体的单方责任，而是开发、提供、使用三个环节共同构成的责任闭环。

“由于人工智能在不同场景中的风险结构差异很大，一刀切的管理方式往往既不精确，也不高效。”张凌寒介绍，《指引》提出，根据垂直场景特点进行差异化分级治理。比如，在生命健康领域，要坚持安全优先、审慎适用，把风险控制放在首位，尤其关注诊疗辅助、医疗分诊、健康管理等高风险环节。在社会治理领域，要强调公共利益优先和公平普惠，重点保障公共服务的可及性、中立性和程序正当性，防止技术应用削弱公共治理的信任基础。在信息资讯领域，则要坚持真实可信和清朗生态导向，强化对内容生成、平台推荐、舆情传播和事实核验等环节的风险治理。

张凌寒说，不同场景对应不同治理着力点，分别是安全控制、公共利益和真实可信。只有把伦理安全要求翻译成场景化、精细化规则，治理才能真正落地。

红星新闻首席记者 吴阳 南宁报道

编辑 包程立

审核 何先菊