网易首页 > 网易号 > 正文 申请入驻

沈昌祥院士:AI规模化应用需构建系统、模型、应用可信能力

0
分享至


11月12日,第七届中国人工智能大赛成果发布会在厦门举行。中国工程院院士沈昌祥在主旨报告中,围绕自主可信计算与人工智能安全产业生态分享观点。面对人工智能走向规模化应用的趋势,他提出:“人工智能走向规模化应用,需要系统防得住攻击、模型说得清依据、应用担得起责任。”

这一判断将AI安全议题从单点技术防护,延伸到系统、模型与应用三个层面。对通信行业和科技产业而言,人工智能正从试验性工具进入生产系统和业务流程,安全能力不再只是上线后的补充措施,而是规模化应用能否推进的基础条件。

安全能力需要前移

沈昌祥主张从被动防御转向主动免疫。被动防御更多是在攻击发生后进行响应和修补,主动免疫则强调在系统设计和运行中内置安全能力,使系统具备更强的抗攻击和恢复能力。这一思路与自主可信计算的讨论相衔接。随着人工智能应用接入网络、算力和数据资源,安全边界随之扩展,仅在局部环节加固,难以覆盖全链条风险。将安全能力前移,意味着在系统建设初期就考虑可信验证、访问控制和运行监测等问题。这是产业推进AI应用时需要同步解决的工程问题。

模型治理成为关键环节

模型决策依据的透明与可追溯,是上述表述指向的重要议题。人工智能模型进入业务系统后,仅关注输出结果并不充分,还需要回答依据从何而来、过程能否复核、结果能否验证。对行业用户而言,模型的可解释、可验证、可审计,正在成为采用人工智能应用的重要前提。围绕模型治理,数据来源、训练过程、评测评估和运行监测都需要形成相应机制。沈昌祥将模型层面的可信要求与系统安全并列,说明AI安全不是单一防护产品能够覆盖的问题。

体系可信支撑规模化应用

应用层面的责任承担,意味着应用侧需要明确责任边界和追溯机制。沈昌祥提出从单点加固转向体系可信。单点加固对应局部安全措施,体系可信则要求从计算环境、模型能力到应用服务形成整体可信。自主可信计算是这一讨论中的关键词。对通信行业而言,人工智能与网络、算力、数据的结合日益紧密,安全议题贯穿基础设施、模型服务和应用场景。只有系统、模型、应用三个层面形成可信闭环,人工智能规模化应用才具备稳定基础。

从被动防御到主动免疫,从单点加固到体系可信,沈昌祥的判断为人工智能安全产业生态提供了一个清晰的分析框架。对通信行业而言,AI规模化应用的安全底线,最终要落到系统、模型、应用三个层面的可信能力建设上。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国学大师的最后预言:东方将诞生三位圣者,或将改变世界格局

国学大师的最后预言:东方将诞生三位圣者,或将改变世界格局

阿珂读书
2025-01-16 19:16:31
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我可能会棒打鸳鸯。因为我觉得门当户对很重要,婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我可能会棒打鸳鸯。因为我觉得门当户对很重要,婚姻要得到双方父母的祝福,才会幸福”

品读时刻
2026-11-19 09:05:14
金价一跌!有人取出85克金条去打金,水贝商家几个月却亏两三百万

金价一跌!有人取出85克金条去打金,水贝商家几个月却亏两三百万

凡知
2026-11-22 19:00:07
只剩几天!杜特尔特绝处逢生?中美俄罕见同声,给海牙划下红线

只剩几天!杜特尔特绝处逢生?中美俄罕见同声,给海牙划下红线

老做体育解说
2026-11-22 11:28:48
全国卫生大会传出一个极不寻常的信号:医院自己能不能活下去,终于被摆到了台面上

全国卫生大会传出一个极不寻常的信号:医院自己能不能活下去,终于被摆到了台面上

医脉圈
2026-11-02 12:37:32
于和伟再挑大梁!60集抗战史诗《战争和人》接档《伟大的长征》

于和伟再挑大梁!60集抗战史诗《战争和人》接档《伟大的长征》

小椰的奶奶
2026-11-23 01:44:49
两人已离婚,男方承认婚内出轨,最新进展

两人已离婚,男方承认婚内出轨,最新进展

最江阴
2026-10-08 17:42:26
原来我们身边藏着这么多暴利行业?网友:20多分钟1000多就没了

原来我们身边藏着这么多暴利行业?网友:20多分钟1000多就没了

夜深爱杂谈
2026-10-29 21:47:09
2死6伤!A级通缉犯关押一年被无罪释放,湖南郴州人肉炸弹案始末

2死6伤!A级通缉犯关押一年被无罪释放,湖南郴州人肉炸弹案始末

易玄
2025-04-19 08:22:01
“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

妍妍教育日记
2026-10-05 10:10:15
中央动真格!2027年底前,全国所有住房都将迎来唯一“身份证”?

中央动真格!2027年底前,全国所有住房都将迎来唯一“身份证”?

心灵的触动a
2026-11-17 23:49:36
男子几个月亏130万元,报警当天身上只剩100多块钱,警方:捣毁一个53人诈骗团伙,300多名资深老股民被骗

男子几个月亏130万元,报警当天身上只剩100多块钱,警方:捣毁一个53人诈骗团伙,300多名资深老股民被骗

南方都市报
2026-11-22 19:19:17
太逗了!梁靖崑作词发新歌被隔壁老樊关注,自嘲嗓音比本人瘦20斤

太逗了!梁靖崑作词发新歌被隔壁老樊关注,自嘲嗓音比本人瘦20斤

林小湜体育频道
2026-11-22 19:20:48
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
9轮投票结束,联合国新秘书长人选,又一次在五常面前全军覆没

9轮投票结束,联合国新秘书长人选,又一次在五常面前全军覆没

经纬戎韬
2026-11-23 00:41:13
前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

姜大叔侃球
2026-11-21 11:25:05
有人预测:春节以后,水费、电费、天然气费或将迎来“大变局”?

有人预测:春节以后,水费、电费、天然气费或将迎来“大变局”?

叹为观止易
2026-11-23 01:25:58
出界2秒漏判,香农·夏普:我真不知道他们怎么漏的

出界2秒漏判,香农·夏普:我真不知道他们怎么漏的

快乐加载中21
2026-11-23 01:08:03
山东一地规定:从去世到安葬要24小时完成!不怕假死者被活埋吗?

山东一地规定:从去世到安葬要24小时完成!不怕假死者被活埋吗?

中原医生
2026-11-22 11:16:04
樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

趣味八卦
2026-10-03 11:11:17
2026-11-23 03:36:49
通信世界 incentive-icons
通信世界
多维度 全媒体 整合传播
14269文章数 30481关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
家居
教育
艺术
军事航空

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

艺术要闻

世界十大著名宫殿盘点:中国独占两席

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版