智能体发展风头正盛，构建适配时代特征的风险治理框架迫在眉睫

智能体作为新一代信息技术的重要形态，正从辅助人类思考的“认知工具”，向自主执行任务的“行动主体”加速演进。其在释放巨大生产力的同时，也滋生出一系列新型治理难题。如何在发展与安全的动态平衡中，构建适配时代特征的智能体风险治理框架，是当前面临的一项重要课题。

理论逻辑：发展与安全的辩证统一

智能体风险治理的理论逻辑，根植于对技术本质、风险范式与治理规律的深刻认识，体现为三个层面的辩证统一。

第一，风险认知：从“静态输出”向“动态行为”跃迁。传统信息技术安全管控，大多从内容生成、数据存储等相对固化的维度展开防护，其风险边界相对清晰，治理对象相对固定。智能体则具备自主性、代理性与环境交互属性，其安全风险呈现出动态化、复杂化与全域化的新特征。2026年7月，OpenAI在内部测试中发生的智能体为获取高分，自主突破隔离边界入侵Hugging Face系统，即是这一风险跃迁的典型例证。当前，人工智能的风险管控范围已从单一的结果审核，扩展至“目标理解—任务规划—工具调用—执行操作”的完整行为链条。这一本质变化，决定了治理逻辑必须从“产品安全”转向“过程治理”，从关注“输出什么”转向关注“会做什么”。

第二，价值取向：坚持“发展”与“安全”一体两面。发展和安全是一体之两翼、驱动之双轮。2026年，以OpenClaw（“龙虾”）为代表的开源智能体在全球爆火，推动人机交互从“工具使用”向“代理委托”转变，展现了巨大的生产力潜能。在今年6月召开的第十四届互联网安全大会上，有专家指出，智能体驱动的攻击已呈现出自主决策、集群协同与持续进化的技术特征，彻底改变了传统的攻防格局。若片面追求发展而忽视安全，将导致技术滥用、隐私泄露甚至危及公共安全；若因噎废食、过度防控，则可能抑制技术创新与产业活力，错失发展机遇。因此，智能体风险治理的核心在于构建一种动态平衡的框架，一手抓创新赋能，一手抓底线管控，在规范中释放技术潜能，在发展中完善治理体系。

第三，范式重构：从“单点控制”向“系统共治”转型。智能体风险的系统性、跨域性，决定了传统碎片化、事后应对式的治理模式难以为继。在2026世界人工智能大会上发布的《智能体互信互联互操作全球合作倡议》，明确提出建立覆盖智能体全生命周期的安全治理框架。因此，智能体风险治理必须转向系统性、全周期、多主体协同的新范式，将安全能力嵌入技术底座，将监管约束分类分级、精准施策，将人类主体地位贯穿运行始终，将多元责任凝聚为共治合力，实现从“被动应对”向“主动预防”、从“个案处理”向“宏观审慎”的范式跃升。

实践路径：构建五位一体的风险防控体系

推动上述理论逻辑落地见效，关键在于紧贴时代要求，构建以下五个相互支撑、协同发力的核心机制，并统筹推进配套保障措施。

第一，夯实技术安全内生机制，筑牢安全运行的底座根基。将安全能力贯穿技术应用研发、部署、运行、迭代全流程，打破安全功能事后叠加的传统思路，将防护能力内置于技术架构的底层设计。研发阶段，将价值导向与安全要求嵌入底层设计，强化供应链安全管理，针对“龙虾”等开源智能体暴露出的“技能生态污染”风险，建立多层次的技能插件安全审计机制；部署阶段，明确系统运行边界，实施必要隔离保护；运行阶段，坚持最小必要原则，强化动态监测与应急阻断能力；迭代阶段，持续完善安全策略与防护标准。该机制旨在实现安全能力与创新动能的协同提升，真正筑牢技术应用安全运行的根基。

第二，落实分类分级监管机制，实施精准适配的治理策略。由相关主管部门依据应用场景、影响范围及潜在风险，将技术应用划分为高、中、低风险三个等级，实施差异化、精准化监管。具体而言，高风险领域聚焦国家安全、公共安全及重要行业，要严把准入关口，强化全流程动态监测与应急响应，落实刚性管控措施。低风险领域依托标准化测试工具、平台主体责任落实与行业自律机制建设，降低合规成本，激发市场活力。同时，融入主动防御、动态调适理念，根据技术发展和应用变化灵活调整监管策略，实现安全管控与产业发展的动态平衡。

第三，强化人工干预与兜底机制，坚守以人为本的底线原则。统筹发展和安全，并非抑制技术应用的自主优势，而是充分发挥人类在经验、判断、责任等方面的主体作用，有效防范系统运行中的非预期与高风险行为。对常规、低风险任务，应充分释放技术应用的效能与协同潜力。对算法失控、系统异常等高风险操作，必须强化人工及时介入与最终决策权，坚决守住用户权益、数据安全与公共安全底线。这种“机器高效执行、人类最终把关”的机制，既有利于避免过度管控抑制创新活力，又能够杜绝放任自流引发安全风险，真正实现发展与安全的有机统一。

第四，健全多元协同共治机制，凝聚权责清晰的治理合力。坚持党委领导、政府统筹，加快推进相关领域专门立法与法律法规完善，健全技术安全、数据管理等规范体系。2026世界人工智能大会期间，全球首个人工智能领域政府间国际组织——世界人工智能合作组织在上海成立，标志着多边协同共治迈出关键一步。具体来看，企业要落实全链条安全主体责任，强化源头治理与过程管理；行业协会需健全自律准则与伦理规范，完善风险监测与信用评价机制；第三方机构开展独立安全评估与合规认证；公众依法有序参与监督。通过多方协同、责任共担、成果共享，构建全社会共建共治共享的治理格局，为产业健康可持续发展提供坚实保障。

第五，统筹推进配套保障，确保治理体系协同发力。加快核心技术攻关，大力推广安全基线模型与安全工具链，为智能体安全治理提供坚实技术支撑。同时，加快构建智能体标准体系，重点推动智能体互联协议（AIP）等关键标准制定与推广，建立供应链安全信息共享与预警机制，完善问题产品召回制度，为规范化发展提供制度保障。此外，还应加强公众数字素养教育，提升社会对技术应用能力边界与潜在风险的认知，通过政府引导、企业主责、社会参与，形成安全与发展良性互促的产业生态。

统筹发展和安全视域下的风险治理，事关智能体产业长远健康发展，不可能一蹴而就，也不可能一劳永逸。唯有以辩证思维看待发展与安全，以系统观念推进治理创新，紧密跟踪技术演进与风险演化态势，在激发技术活力的同时牢牢守住安全底线，方能确保智能体技术始终沿着安全、可靠、向善的轨道服务社会、造福人类。

（作者单位：上海交通大学）

原标题：《智能体发展风头正盛，构建适配时代特征的风险治理框架迫在眉睫》