AI时代，安全与法治如何跟上？浙江探索新路径

AI发展日新月异，安全和法治如何跟上？21世纪经济报道记者注意到，浙江正从AI安全产业实践与人工智能立法两个维度加快探索。

（资料图）

日前，2026全球数贸会·西湖论剑大会在杭州举行，核心命题是“从辅助到自主”，关注AI时代的数智创新与安全跃迁。工业和信息化部信息技术发展司二级巡视员傅永宝在大会上表示，2025年我国人工智能核心产业规模突破1.2万亿元，初步预测，今年我国人工智能相关产业规模将保持30%的增速。

在傅永宝看来，安全是人工智能发展的底线和红线，要更好统筹发展和安全。加强人工智能模型在工业应用中的安全评估，推动人工智能应用合规、透明、可信赖。

今年政府工作报告提出，打造智能经济新形态。深化拓展“人工智能+”，促进新一代智能终端和智能体加快推广。

既要发展AI，又要兼顾安全，这对法律规则提出了新要求。9月24日，浙江大学发布《人工智能法专家建议稿（浙大1.0版）》，提出发展与安全统筹、风险适配与敏捷治理、全生命周期治理等原则，并以“能—智—事”适配原则作为人工智能法律制度的结构原理。

今年以来，头部模型的安全风险正受到更广泛关注。9月28日，OpenAI决定取消发布新一代模型GPT-6.1 Astra，原因是该模型未能充分达到公司的安全标准。此前，OpenAI的一个智能体突破沙箱环境，入侵了多家公司，引发对AI安全的广泛关注。

在人工智能产业加速发展、智能体不断走向自主的背景下，安全治理如何前置？

浙江数字经济百人会执委、浙江省咨询委委员厉敏认为，AI对制造业的改造，过去是人主导、机器执行，现在是智能体自主感知、决策、执行。浙江必须统筹技术落地、产业重构与安全。

“AI越自主，安全越重要。”厉敏表示，除了传统网络安全的攻防，现在还要面对智能体越权、算法决策、数据跨境、供应链安全等新的风险，安全必须与创新同步规划、同步建设。

第十四届全国政协委员、经济委员会委员赵泽良认为，网络安全某种意义上讲是对抗，而对抗模式在发生变化，由以前以人为主体变成现在越来越多以Agent为主体，路径由Agent自主决策、自主执行，人机交互留给人的干预窗口越来越小。

“安全的对象已经不是一个模型，而是‘模型+数据+Agent+工具+权限+外部环境’这个复杂的系统。”赵泽良表示。

中国工程院院士吴世忠也提到，人工智能的竞争正在从单一的模型能力竞争，演变成为围绕算力、数据、模型、智能体、应用生态和治理规则的全系统竞争。智能时代的安全问题，呈现出自身安全和传统安全交织叠加的复杂局面。

浙江是全国唯一的数据要素和数字经济创新发展双试验区，有条件在AI安全治理上先行探索。

“AI正在给安全产业带来颠覆性的变化。”西湖论剑大会主席、安恒信息董事长范渊表示，AI从辅助到自主之后，会成为Token、算力需求最大的消费者，但AI本身也需要更多安全防护。

安恒信息研究院院长王欣在接受21世纪经济报道记者采访时表示，AI技术革新网络安全领域，打破了攻防平衡，未来的防御体系将以AI为核心进行构建。例如，安恒信息的“X安全数字员工”将为政企单位提供全天候智能防护。

“当AI整体进攻的效率和能力提升50倍到100倍时，我们在争夺宝贵的防守时间窗口。”范渊说。具体看，一是前置式的主动网络安全防御；二是加强对AI资产的防护；三是AI自主化之后，为确保其行为可控，要深入到对智能体的行为分析。

“最后，在整个分析、研判和响应过程中，要大幅缩短时间窗口，唯一的答案就是AI运营或者响应的数字员工。”范渊说。

吴世忠认为，智能时代的博弈已经升级为“掌握了AI的人”在数字空间的较量。网络安全行业需要学习AI、拥抱AI、掌控AI，与人工智能双向奔赴。

浙江是人工智能技术与产业的热土，法律规则如何适应技术快速迭代？

面对人工智能立法的重点和难点，日前，浙江大学发布《人工智能法专家建议稿（浙大1.0版）》。

该建议稿的总则提出7个基本原则，包括发展与安全统筹原则、以人为本与向善普惠原则、风险适配与敏捷治理原则、全生命周期治理原则、公开透明与责任可追溯原则、物理安全与身心完整性原则、公平公正与多元共治原则。

在风险适配与敏捷治理原则方面，该建议稿提出，依据人工智能的系统执行能力、认知成熟度与任务性质及其影响，实施分级分类和差异化管理，对高影响场景强化监管，对低风险场景实行灵活治理，并根据风险变化动态调整。

此外，该建议稿也持续回应人工智能技术迭代与新型治理难题，从主体界定、权责划分、伦理规范、安全监管、救济机制等方面构建完整制度框架。

如何适应人工智能技术快速变化？该建议稿在总则中提出“适配治理基准”，即国家尊重人工智能技术发展的阶段性，建立以人工智能系统的执行能力、认知成熟度与任务性质及其影响为基础的人工智能治理制度。

此前，浙江大学数字法治研究院院长、敦和讲席教授孙笑侠在接受21世纪经济报道记者采访时表示，中国人工智能立法的基本价值原则就是，既要促进发展，也要保障安全。这也是当前各国立法的难点。为破解这一难题，他提出AI全生命周期“能—智—事适配”理论，即按AI能力、认知水平、场景复杂度开展阶段化准入与分级监管。

人工智能治理正进入全生命周期阶段。值得注意的是，该建议稿提出全生命周期治理原则，覆盖研发、测试、提供、部署、运行和退出等阶段，根据能力、风险和影响的变化动态调整监管强度。

据浙江大学光华法学院百人计划研究员李汶龙介绍，该建议稿将技术研发与商业落地两个全生命周期相衔接，围绕中试验证、首购订购、部署集成、更新退出等关键环节提供法律支撑。

李汶龙表示，该建议稿立足杭州创新实践，把开源生态、中小企业公平获取资源等现实情况纳入制度安排，也回应了智能体、具身智能和脑机接口等前沿应用的治理需求，探索兼顾创新活力、权益保障与安全底线的综合立法方案。

智能体正在进一步走向自主执行任务，由此带来的法律责任和权利边界问题更加复杂。当前智能体应用场景有哪些法治难点？

在美团法务高级专家范雯丽看来，智能体参与合作催生了授权传递机制模糊、权责划分不清、平台生态开放边界不明等新型合规问题。立法层面应细化智能体场景化规则，压缩法律适用模糊空间，实现法治合规与技术创新良性互动。

一个更具体的问题是，当智能体代表用户调用第三方应用、访问相关数据或执行任务时，需要怎样的授权？

抖音集团法律研究总监刘明区分两类授权的法律属性：用户授权基于隐私权、个人信息等法定权利，严格适用“无授权不可为”原则；应用授权多涉及数据、流量等竞争性权益，需结合反不正当竞争法个案综合判定，不宜简单适用授权规则。

刘明表示，要从契合用户真实意愿、严守访问权限、维护公平竞争秩序三个层面，构建智能体行为合法性判断体系。同时，竞争政策需与产业政策、监管政策协同发力，以此规范行业发展秩序、持续释放人工智能产业创新活力。