人工智能安全论坛举行，涉未成年人AI服务应用将有指引标准

4月23日，以“融合·创新·突破”为主题的第二届武汉网络安全创新论坛在武汉市东西湖区国家网络安全人才与创新基地启幕。在当天下午举行的“人工智能安全分论坛”上，多位专家围绕“未成年人AI安全”议题展开分享。

中国社会科学院大学互联网法治研究中心主任刘晓春以“向未成年人提供生成式人工智能服务安全指引”（以下简称“指引”）为主题展开主旨演讲。她表示，未成年人对于人工智能工具的使用已成为国内外广泛关注的议题，但相关法律法规仍有空白之处，对该群体的安全引导刻不容缓，目前已在有关部门指导下参与编制“指引”。

中国社会科学院大学互联网法治研究中心主任刘晓春作主旨演讲（主办方供图）。

刘晓春介绍，“指引”是按照模型全生命周期来进行设计的，能够较好地嵌入到目前的人工智能安全评估体系当中，同时也是将原有的未成年人保护机制放置于人工智能的视野下去进行迭代和更新。

她强调，“指引”分为总体原则、服务全生命周期安全管理、组织与制度保障、行业发展与促进等部分，“内容安全、数据安全和个人信息保护”是“指引”的三条主线。其中，总体原则部分在坚持了安全原则的同时落实AI服务提供者的主体责任；服务全生命周期安全管理部分是“指引”的核心亮点，贯穿了“训练数据处理——模型训练——场景应用——服务运营”四个阶段，考量了个人信息的收集和处理、特定场景下生成内容安全、未成年人身份认证、未成年人保护模式、网络防沉迷，权限管理和消费管理等多方面问题；组织与制度保障关注专项工作组、专门负责人，专项保护制度的建立；行业发展与促进部分倡导发展促进和安全治理并重，探讨如何搭建落实最有利于未成年人的机制。

中国电子技术标准化研究院网络安全研究中心智数安全部主任郝春亮在主旨演讲中表示，虽然现在看到的针对未成年人的人工智能应用还不是特别多，但是它的风险格外高。他透露，人工智能技术涉未成年人应用的安全标准今年也已在推进编制中。

中国电子技术标准化研究院网络安全研究中心智数安全部主任郝春亮作主旨演讲（主办方供图）。

据悉，本届论坛由武汉市人民政府主办，中国网络空间安全协会、武汉临空港经济技术开发区管委会承办，中国互联网发展基金会支持，“人工智能安全分论坛”由中国网络空间安全协会人工智能安全治理专业委员会主办，政、产、学、研精英齐聚，围绕人工智能国际化合规路径、安全可信评估、标准体系建设、开源创新与共治、未成年人服务安全等议题展开深入研讨。

出品：南都大数据研究院

采写：南都记者 张雨亭