北京
来源：市场资讯
（来源：上观新闻）
当前，人工智能技术的迅猛发展正引发模型失控、深度伪造以及伦理失序等安全风险，传统静态监管方式已难以适配人工智能发展与安全的双重需求。“十五五”规划纲要提出，“建立适应新业态发展的高效便捷准入机制，探索‘沙盒监管’、触发式监管等新型监管方式”。其中，触发式监管作为一种风险导向监管方式，能够适应人工智能安全治理的敏捷性、动态性等特征，平衡人工智能发展与安全。
何为触发式监管？
触发式监管强调“无事不扰、有因必查”，通过设定明确的监管触发条件和风险阈值，实现对市场主体的精准监管。目前，触发式监管已经在新疆、上海、江苏、浙江等多地实践，并以信用风险分类为核心，将风险防控贯穿事前、事中、事后全链条。
就已有实践来看，触发式监管的内涵是监管主体基于人工智能、大数据等数智技术，设定明确、透明以及可操作的合规边界与风险阈值，当被监管对象的行为触及相应风险阈值时，自动触发对应的监管措施。一般而言，在风险阈值内，监管主体采取包容观察的态度，最大限度减少行政干预，而超出了风险阈值则根据风险等级采取差异化的处置措施。此外，触发式监管还属于一种基于信用的监管，通过将信用状况作为触发条件与监管强度的重要依据，有利于塑造企业主动守信、合规经营的市场氛围。
平衡发展与安全
与传统监管方式不同，触发式监管的优势在于其精准性与灵活性，既能防止监管缺位引发的安全风险，又能推动人工智能技术及产业的发展，避免过度监管抑制创新。
第一，有利于实现安全风险的精准防控。触发式监管通过搭建一体化智能监管平台、打通数据壁垒、整合信息资源，能够精准识别风险对象以及风险环节，将有限的行政资源从“大海捞针”式排查中解放出来。
第二，有利于保障技术创新的弹性空间。触发式监管主要聚焦结果而非技术发展过程。换言之，在预设风险阈值后，无论人工智能技术如何迭代，应用场景发生怎样的变化，只要不触碰“黄线”与“红线”，就能获得充分的创新空间，有效降低技术初创时期的制度性成本。
第三，有利于推动治理方式的前置转型。触发式监管能够依托常规化的风险监测机制，以数智技术对人工智能系统的研发、部署、应用等全生命周期实施监控，在风险萌芽阶段及时介入并精准处置，实现风险防控从“事后处置”向“事前预警”转变，契合人工智能风险动态演化的特征。
实施路径
第一，明确分类分级触发条件，实现精准监管。确保“无事不扰、有因必查”需将人工智能分类分级监管、企业信用与“红黄线”等触发情况相结合，采取差异化的监管响应措施。其中，“黄线”作为风险预警线，依旧以提醒、约谈、自主整改为主，而触发“红线”则采取暂停运行、下架整改以及罚款等措施。在日常监管的过程中，监管主体需将“红黄线”转化为具体、可观测的量化或定性阈值，让“红线不能碰、黄线需警惕”的要求落地为可操作性的监管准则。
第二，搭建智能一体化触发监管平台，强化技术赋能。人工智能的颠覆性特质决定了其监管不能沿用传统条块分割的方式。对此，需要搭建全国性智能一体化触发监管平台，利用人工智能、大数据、区块链等技术，以“技术治理”来“治理技术”，从技术层面实现精准识别与自动触发。同时，平台还需嵌入动态迭代算法，根据人工智能的实际发展趋势与风险变化，自动优化监测模型、更新风险识别规则，确保监管技术与人工智能迭代同频同步。
第三，强化协同治理，形成监管合力。遵循大安全这一综合治理理念，强化各主体的责任落实，形成监管合力。一是明确政府监管部门的职责分工，各司其职、协同联动；二是强化人工智能企业主体责任，落实全流程安全义务，主动上报风险并对触发“红黄线”问题自查自纠与及时整改；三是发挥行业协会作用，推动行业制定自律标准与触发条件指引，引导企业规范发展；四是畅通社会监督渠道，鼓励公众、媒体对企业的违规行为进行举报，并主动参与触发阈值的设定与完善。
（作者为中国浦东干部学院干部教育研究中心研究员、上海市习近平新时代中国特色社会主义思想研究中心研究员）
原标题：《“无事不扰、有因必查”，以触发式监管护航AI发展》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
