网易首页 > 网易号 > 正文 申请入驻

中国网络空间安全协会卢卫:AI治理应分类,严管高风险场景

0
分享至

12月18日,由南方都市报社、南都数字经济治理研究中心主办的“第九届啄木鸟数据治理论坛”在京举行,主题聚焦 “AI安全边界:技术、信任与治理新秩序”。中国网络空间安全协会副理事长、人工智能安全治理专业委员会主任卢卫为论坛致辞。他表示,AI治理应坚持“分类分级”,比如对自动驾驶、智慧医疗等高风险场景严格监管,对低风险应用则留出一定创新空间。

中国网络空间安全协会副理事长卢卫致辞。

随着大模型应用场景渗透到社会的每一个角落,曾经高居云端的AI智能已步入“寻常百姓家”,越来越多的普通人开始使用和掌控它。与此同时,新应用的不断涌现,也给网络生态治理带来全新挑战。卢卫认为,建立健全面向未来的人工智能安全治理生态,需要依靠技术创新筑牢防线、依靠信任夯实凝聚共识、依靠制度完善保驾护航,让技术、信任、制度三者形成合力。

首先,技术是安全治理的基础支撑,为人工智能发展筑牢安全底线。卢卫表示,人工智能技术日新月异,发展离不开技术的创新和迭代,安全最终要靠技术来兜底,具体涉及两方面:

一是提升人工智能自身安全性,如通过对抗训练增强模型鲁棒性(指一个系统在面临着内部结构或外部环境的改变时也能够维持其功能稳定运行的能力),利用差分隐私保护数据安全;另一方面研究治理技术,如算法漏洞的智能检测,深度伪造检测、算法审计工具等。此外,要特别注重内生安全,“要在人工智能的研发初期就嵌入防护机制,并不断地迭代优化,不能事后‘打补丁’。”

卢卫分析,近年来发生的涉人工智能网络安全事件普遍呈现出两个特点:手段智能化,一些不法分子早早地就将人工智能技术作为违法犯罪工具;风险场景复杂化,具体表现为从数字空间渗透到了物理世界。

“比如,当前具身智能已从生产阶段进入到现实生活中,随着机器人逐步进入家庭,相关安全问题亟待重视。”卢卫还提到,信任是安全治理的桥梁纽带,为人工智能发展凝聚社会共识。

在他看来,人工智能的普及,本质上是技术获得社会信任的过程。算法推荐出现“信息茧房”、自动驾驶面临伦理困境、AI生成内容模糊虚实边界……都会侵蚀公众的信任根基。要构建信任,需要做到“透明可及”,包括提高算法决策过程透明度,避免技术异化对隐私、公平等价值的损害等等;同时要积极普及AI知识,提升全民数字素养。

“只有赢得公众信任,人工智能才能够在医疗、教育、交通等关键领域(得到)深度应用,这是治理生态的活力源泉。”卢卫说。

制度是安全治理的秩序保障,为人工智能发展全程保驾护航。卢卫建议,建立健全“法律+标准+伦理”的治理体系,既通过《网络安全法》《数据安全法》等法律划出“红线”,也要发挥行业标准、自律公约的柔性调节作用。AI治理中要坚持“分类分级”,比如对自动驾驶、智慧医疗等高风险场景严格监管,对低风险应用则留出一定创新空间。同时,要推动跨部门、跨区域协同治理;加强国际合作,应对人工智能安全的全球性挑战。

卢卫强调,随着人工智能技术的迅速迭代,治理还需保持“敏捷性”,制度建设需“与时俱进”。通过建立健全动态风险评估机制,为前沿技术和领域的治理提出方案,为创新留出试错空间。比如,近年来中国网络空间安全协会组织专业机构对人工智能模型进行了安全和能力评测实践探索。

人工智能等新技术、新应用飞速发展,给现有国家治理体系带来极大挑战。“作为行业协会,(中国网空协会)非常愿意积极参与,共同做好人工智能安全治理方面的工作。”他说。

出品:南都数字经济治理研究中心

采写:南都N视频记者 樊文扬

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

阿胡
2025-03-11 13:28:03
WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

全言作品
2026-11-21 00:06:58
亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

一路荒凉如歌a
2026-11-20 13:07:08
欧洲卡住光刻机不卖中国,中国反问:欧洲为啥还想要中国新能源?

欧洲卡住光刻机不卖中国,中国反问:欧洲为啥还想要中国新能源?

梦在深巷aqa
2026-11-20 10:01:29
该断掉的总要断掉,刻赤大桥垮入海峡

该断掉的总要断掉,刻赤大桥垮入海峡

巴雷文化
2026-11-18 05:04:31
特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

政知新媒体
2026-11-20 09:29:43
大鹅出动 图-160 战略轰炸机大规模轰炸基辅,京子:我们不谈了! | 狼叔看世界

大鹅出动 图-160 战略轰炸机大规模轰炸基辅,京子:我们不谈了! | 狼叔看世界

狼叔看世界
2026-11-20 14:37:50
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
2400万降到400万,胖东来原房东租金一降再降,奈何始终没人接盘

2400万降到400万,胖东来原房东租金一降再降,奈何始终没人接盘

琴琴有氧运动
2026-11-19 17:19:36
博尔特专访:如果拥有现在的跑鞋和跑道,我百米能叩开9秒40大关

博尔特专访:如果拥有现在的跑鞋和跑道,我百米能叩开9秒40大关

杨华评论
2026-11-20 23:45:41
肠子悔青!皇马致命失误!离谱操作坑惨穆里尼奥

肠子悔青!皇马致命失误!离谱操作坑惨穆里尼奥

澜归序
2026-11-20 09:52:09
特朗普致电“自愿联盟”,质疑欧洲向乌克兰提供援助,声称俄罗斯正考虑和平

特朗普致电“自愿联盟”,质疑欧洲向乌克兰提供援助,声称俄罗斯正考虑和平

山河路口
2026-11-20 13:27:18
真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

青史卷中人
2026-11-18 01:22:22
5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

阿成嘞
2026-11-20 14:54:29
陈盈骏决战爆砍11分一度把广厦全队打懵!赛后低调发声归功李楠

陈盈骏决战爆砍11分一度把广厦全队打懵!赛后低调发声归功李楠

狼叔评论
2026-11-20 22:00:08
当年敢狮子大开口跟胖东来要 2400 万年租,现在灰溜溜降到 400 万,为啥没人敢接?

当年敢狮子大开口跟胖东来要 2400 万年租,现在灰溜溜降到 400 万,为啥没人敢接?

唠叨说历史
2026-11-20 17:16:47
被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

秋风妃
2026-11-18 21:50:07
亮相APEC晚宴的广州荔枝冰酒全网卖断货,老板曝每瓶酒需要168颗从化怀枝经16道工序酿造,产品研发长达10年,投入超3000万元

亮相APEC晚宴的广州荔枝冰酒全网卖断货,老板曝每瓶酒需要168颗从化怀枝经16道工序酿造,产品研发长达10年,投入超3000万元

极目新闻
2026-11-20 20:15:19
全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

火山詩话
2026-11-18 06:17:30
贺龙资历突出,为何解放战争没受重用?因造成过一次严重军事失败

贺龙资历突出,为何解放战争没受重用?因造成过一次严重军事失败

阿胡
2025-02-17 15:07:05
2026-11-21 02:56:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644558文章数 3591451关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
房产
家居
本地
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版