网易首页 > 网易号 > 正文 申请入驻

AI时代 安全与法治如何跟上?浙江探索新路径

0
分享至

AI发展日新月异,安全和法治如何跟上?21世纪经济报道记者注意到,浙江正从AI安全产业实践与人工智能立法两个维度加快探索。

日前,2026全球数贸会·西湖论剑大会在杭州举行,核心命题是“从辅助到自主”,关注AI时代的数智创新与安全跃迁。工业和信息化部信息技术发展司二级巡视员傅永宝在大会上表示,2025年我国人工智能核心产业规模突破1.2万亿元,初步预测,今年我国人工智能相关产业规模将保持30%的增速。

在傅永宝看来,安全是人工智能发展的底线和红线,要更好统筹发展和安全。加强人工智能模型在工业应用中的安全评估,推动人工智能应用合规、透明、可信赖。

今年政府工作报告提出,打造智能经济新形态。深化拓展“人工智能+”,促进新一代智能终端和智能体加快推广。

既要发展AI,又要兼顾安全,这对法律规则提出了新要求。9月24日,浙江大学发布《人工智能法专家建议稿(浙大1.0版)》,提出发展与安全统筹、风险适配与敏捷治理、全生命周期治理等原则,并以“能—智—事”适配原则作为人工智能法律制度的结构原理。

AI自主化加速,安全防线需前移

今年以来,头部模型的安全风险正受到更广泛关注。9月28日,OpenAI决定取消发布新一代模型GPT-6.1 Astra,原因是该模型未能充分达到公司的安全标准。此前,OpenAI的一个智能体突破沙箱环境,入侵了多家公司,引发对AI安全的广泛关注。

在人工智能产业加速发展、智能体不断走向自主的背景下,安全治理如何前置?

浙江数字经济百人会执委、浙江省咨询委委员厉敏认为,AI对制造业的改造,过去是人主导、机器执行,现在是智能体自主感知、决策、执行。浙江必须统筹技术落地、产业重构与安全。

“AI越自主,安全越重要。”厉敏表示,除了传统网络安全的攻防,现在还要面对智能体越权、算法决策、数据跨境、供应链安全等新的风险,安全必须与创新同步规划、同步建设。

第十四届全国政协委员、经济委员会委员赵泽良认为,网络安全某种意义上讲是对抗,而对抗模式在发生变化,由以前以人为主体变成现在越来越多以Agent为主体,路径由Agent自主决策、自主执行,人机交互留给人的干预窗口越来越小。

“安全的对象已经不是一个模型,而是‘模型+数据+Agent+工具+权限+外部环境’这个复杂的系统。”赵泽良表示。

中国工程院院士吴世忠也提到,人工智能的竞争正在从单一的模型能力竞争,演变成为围绕算力、数据、模型、智能体、应用生态和治理规则的全系统竞争。智能时代的安全问题,呈现出自身安全和传统安全交织叠加的复杂局面。

浙江是全国唯一的数据要素和数字经济创新发展双试验区,有条件在AI安全治理上先行探索。

“AI正在给安全产业带来颠覆性的变化。”西湖论剑大会主席、安恒信息董事长范渊表示,AI从辅助到自主之后,会成为Token、算力需求最大的消费者,但AI本身也需要更多安全防护。

安恒信息研究院院长王欣在接受21世纪经济报道记者采访时表示,AI技术革新网络安全领域,打破了攻防平衡,未来的防御体系将以AI为核心进行构建。例如,安恒信息的“X安全数字员工”将为政企单位提供全天候智能防护。

“当AI整体进攻的效率和能力提升50倍到100倍时,我们在争夺宝贵的防守时间窗口。”范渊说。具体看,一是前置式的主动网络安全防御;二是加强对AI资产的防护;三是AI自主化之后,为确保其行为可控,要深入对智能体的行为分析。

“最后,在整个分析、研判和响应过程中,要大幅缩短时间窗口,唯一的答案就是AI运营或者响应的数字员工。”范渊说。

吴世忠认为,智能时代的博弈已经升级为“掌握了AI的人”在数字空间的较量。网络安全行业需要学习AI、拥抱AI、掌控AI,与人工智能双向奔赴。

AI立法,浙江加快探索

浙江是人工智能技术与产业的热土,法律规则如何适应技术快速迭代?

面对人工智能立法的重点和难点,日前,浙江大学发布《人工智能法专家建议稿(浙大1.0版)》。

该建议稿的总则提出7个基本原则,包括发展与安全统筹原则、以人为本与向善普惠原则、风险适配与敏捷治理原则、全生命周期治理原则、公开透明与责任可追溯原则、物理安全与身心完整性原则、公平公正与多元共治原则。

在风险适配与敏捷治理原则方面,该建议稿提出,依据人工智能的系统执行能力、认知成熟度与任务性质及其影响,实施分级分类和差异化管理,对高影响场景强化监管,对低风险场景实行灵活治理,并根据风险变化动态调整。

此外,该建议稿也持续回应人工智能技术迭代与新型治理难题,从主体界定、权责划分、伦理规范、安全监管、救济机制等方面构建完整制度框架。

如何适应人工智能技术快速变化?该建议稿在总则中提出“适配治理基准”,即国家尊重人工智能技术发展的阶段性,建立以人工智能系统的执行能力、认知成熟度与任务性质及其影响为基础的人工智能治理制度。

此前,浙江大学数字法治研究院院长、敦和讲席教授孙笑侠在接受21世纪经济报道记者采访时表示,中国人工智能立法的基本价值原则就是,既要促进发展,也要保障安全。这也是当前各国立法的难点。为破解这一难题,他提出AI全生命周期“能—智—事”适配原则,即按AI能力、认知水平、场景复杂度开展阶段化准入与分级监管。

人工智能治理正进入全生命周期阶段。值得注意的是,该建议稿提出全生命周期治理原则,覆盖研发、测试、提供、部署、运行和退出等阶段,根据能力、风险和影响的变化动态调整监管强度。

据浙江大学光华法学院百人计划研究员李汶龙介绍,该建议稿将技术研发与商业落地两个全生命周期相衔接,围绕中试验证、首购订购、部署集成、更新退出等关键环节提供法律支撑。

李汶龙表示,该建议稿立足杭州创新实践,把开源生态、中小企业公平获取资源等现实情况纳入制度安排,也回应了智能体、具身智能和脑机接口等前沿应用的治理需求,探索兼顾创新活力、权益保障与安全底线的综合立法方案。

智能体正在进一步走向自主执行任务,由此带来的法律责任和权利边界问题更加复杂。当前智能体应用场景有哪些法治难点?

在美团法务高级专家范雯丽看来,智能体参与合作催生了授权传递机制模糊、权责划分不清、平台生态开放边界不明等新型合规问题。立法层面应细化智能体场景化规则,压缩法律适用模糊空间,实现法治合规与技术创新良性互动。

一个更具体的问题是,当智能体代表用户调用第三方应用、访问相关数据或执行任务时,需要怎样的授权?

抖音集团法律研究总监刘明区分两类授权的法律属性:用户授权基于隐私权、个人信息等法定权利,严格适用“无授权不可为”原则;应用授权多涉及数据、流量等竞争性权益,需结合反不正当竞争法个案综合判定,不宜简单适用授权规则。

刘明表示,要从契合用户真实意愿、严守访问权限、维护公平竞争秩序三个层面,构建智能体行为合法性判断体系。同时,竞争政策需与产业政策、监管政策协同发力,以此规范行业发展秩序、持续释放人工智能产业创新活力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
巴萨又伤一个:阿卜杜勒卡里姆临阵退出德比

巴萨又伤一个:阿卜杜勒卡里姆临阵退出德比

快乐加载中21
2026-11-22 01:53:30
高铁将取消15元盒饭?12306:并非统一取消低价餐食,不同车次餐食种类及价格不同

高铁将取消15元盒饭?12306:并非统一取消低价餐食,不同车次餐食种类及价格不同

都市快报橙柿互动
2026-11-21 17:00:59
美国商务与司法部发声明 披露英伟达Megaspeed芯片转运调查时间线

美国商务与司法部发声明 披露英伟达Megaspeed芯片转运调查时间线

别人都叫我阿腈
2026-11-21 06:19:46
海南龙凤胎日夜啼哭,医院查不出病因,保姆查看监控后发现真相

海南龙凤胎日夜啼哭,医院查不出病因,保姆查看监控后发现真相

悬案解密档案
2025-05-19 14:35:42
重磅数据来了!财政部发布:事关证券印花税!下周A股行情预测

重磅数据来了!财政部发布:事关证券印花税!下周A股行情预测

别人都叫我阿腈
2026-11-21 14:45:59
1992年叶利钦初次访华,国宴中喝下一斤茅台,据随行人员透露:准备回国前,他在钓鱼台哭了半小时

1992年叶利钦初次访华,国宴中喝下一斤茅台,据随行人员透露:准备回国前,他在钓鱼台哭了半小时

磊子讲史
2026-10-26 15:13:37
45岁母亲雾天开车买菜失踪,10年后女儿打车上班,发现是妈妈的爱车

45岁母亲雾天开车买菜失踪,10年后女儿打车上班,发现是妈妈的爱车

今天说故事
2025-07-02 17:31:55
英国、法国、德国、意大利、葡萄牙等欧洲多国民众,示威罢工

英国、法国、德国、意大利、葡萄牙等欧洲多国民众,示威罢工

极目新闻
2026-11-21 16:39:32
一种被严重忽视的优秀主食。比鸡蛋高蛋白,比燕麦高纤维,对血糖血脂真的好

一种被严重忽视的优秀主食。比鸡蛋高蛋白,比燕麦高纤维,对血糖血脂真的好

下厨房
2026-11-13 12:51:18
深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

巷北楠猫本尊
2026-11-21 02:40:07
女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

卡西莫多的故事
2025-10-30 11:33:46
三ツ橋|女子社又有大物新人

三ツ橋|女子社又有大物新人

孤独的独角兽影视
2026-11-21 09:50:17
法国着急访华,王毅把地点改在大同,给马克龙带回了一句至理箴言

法国着急访华,王毅把地点改在大同,给马克龙带回了一句至理箴言

墨兰史书
2026-10-13 19:45:04
涉嫌严重违纪违法,吴振绵被查

涉嫌严重违纪违法,吴振绵被查

中国基金报
2026-11-20 20:40:23
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
印军突袭巴基斯坦,让6架阵风战机被摧毁,中国军工凭啥惊艳全世界

印军突袭巴基斯坦,让6架阵风战机被摧毁,中国军工凭啥惊艳全世界

睡前讲故事
2025-05-09 11:11:56
半场被主帅痛批,他却在底角投进赛季第一记三分

半场被主帅痛批,他却在底角投进赛季第一记三分

元气满分吖
2026-11-22 02:00:52
月销最少仅4台,66亿巨债!扬言造出“中国版宾利”的巨头倒下了

月销最少仅4台,66亿巨债!扬言造出“中国版宾利”的巨头倒下了

云霄纪史观
2026-10-28 04:59:51
一场85–102!输球不可怕,可怕的是卢伟赛后这番话,让人很揪心

一场85–102!输球不可怕,可怕的是卢伟赛后这番话,让人很揪心

林子说事
2026-11-21 07:58:09
乌度卡批球队"精神脆弱",阿门·汤普森:有时得把教练屏蔽掉

乌度卡批球队"精神脆弱",阿门·汤普森:有时得把教练屏蔽掉

晚风知我意21
2026-11-22 01:30:56
2026-11-22 02:11:00
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
287519文章数 745557关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

墨西哥女总统发布深圳行vlog 回国航班上还在练八段锦

头条要闻

墨西哥女总统发布深圳行vlog 回国航班上还在练八段锦

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
艺术
健康
教育
时尚

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

艺术要闻

世界十大著名宫殿盘点:中国独占两席

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

“画不是敌人,是她撑过初三的东西!”初三女生沉迷“数字油画”,家长控诉她不务正业,网友清醒地提醒

提升冬日幸福感的8件小事,太治愈了

无障碍浏览 进入关怀版