上海
11月起正式实施的行业标准，要求AI系统在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面具备控制风险的能力。
8月11日，中国信息通信研究院（下称“信通院”）就《人工智能 安全治理 系统风险管理能力要求》（YD/T 7173-2026）行业标准（下称“标准”）发布解读。该标准以风险评估方法表、识别清单、风险评估报告和应对报告，助力企业构建便捷实用的风险管理工具箱，引导企业从“事后补救”转为“前置主动防控”，减少人工智能安全事故。
标准由信通院联合22家高校、科研院所、科技企业共同编制，并在7月获工业和信息化部批准发布，将于2026年11月1日起正式实施。该标准旨在促进人工智能产业持续健康发展，明确规定了人工智能研发与应用主体的管理和技术能力要求，针对组织建设能力、流程管理能力、风险防护能力等方面进行规范。
第一财经记者从信通院了解到，标准基于人工智能系统全生命周期，通过分析影响程度，对人工智能的风险进行分级评估。标准要求，人工智能系统的研发、应用相关执行部门应对已识别风险开展风险分析，并对风险进行“严重、高、中、低”四级分级。同时，将不可接受的风险定义为隐患，划分为重大、中度、一般隐患。
例如，对组织（包括其他组织）造成小范围财产损失或声誉受损归为低风险；而对组织关键业务造成业务停摆、关键数据泄露、财产遭受严重损害，或信誉全面受损的风险被认定为严重风险。
就AI的风险来看，标准提供了风险识别清单。清单中不同的风险类别包含若干风险源，并匹配对应的风险控制能力。例如，应用服务安全这一风险就包含未向相关方告知模型能力和局限性、模型生成虚假信息未标识并广泛传播，以及未经同意处理个人信息等情况。
近年来，人工智能技术快速发展并深度融入千行百业，同时模型幻觉、算法偏见、隐私泄露、智能体失控等风险显现，传统安全手段难以有效应对，人工智能技术在风险管理方面面临诸多痛点。
即将实施的标准要求AI研发和应用主体提高对AI系统的风险防护能力，具体体现在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面。
在可靠性方面，标准要求AI系统采用价值对齐机制，减少输出有害或不当内容的风险，确保结果符合预期目标与伦理规范。在透明性方面，标准要求AI系统通过显式和隐式标识或水印，提示模型生成内容，防止因模型生成内容未告知用户而被混淆、误认、广泛传播的风险。同时，标准还要求AI系统具有可问责性。标准要求引入模型审计机制，对系统运行过程和结果进行独立验证，确保具备外部监督渠道。
从技术发展角度看，人工智能技术跃迁导致风险暴露面增多、隐患分散，风险广泛分布于数据处理、模型建设、测试验证与部署上线等多个环节。从合规视角看，风险管理已成为各国人工智能治理的重要抓手。
当前，欧盟《人工智能法》、美国NIST《人工智能风险管理框架》、新加坡《2026年新加坡人工智能安全共识》、我国相关法律法规，均将风险管理作为人工智能安全核心管控手段，全球正加速形成风险治理共识。但从管理角度而言，企业仍面临技术管理割裂、综合防控缺位的治理难题。
信通院下一步将围绕金融、医疗等典型场景开展标准应用试点，总结可复制、可拓展的实施经验，支撑垂直行业提升人工智能风险管理能力。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
