网易首页 > 网易号 > 正文 申请入驻

以AI对抗AI!谷澍详解防范大模型应用风险四大做法

0
分享至

21世纪经济报道记者 张欣

“要‘以AI对抗AI’,建立纵深防御体系,确保攻击可以早发现、快处置、能自愈,不断提升自动化、智能化的风险应对水平。要增强AI对抗能力,部署专门的安全监测模型,持续进行对抗训练,提升系统韧性。”

6月18日,农业银行董事长谷澍在2026陆家嘴论坛——“全体大会五:健全科技金融全生命周期服务体系,服务实体经济高质量”发展上发表题为《控制大模型应用风险的几点做法》演讲时如是表示。

“创新与安全的平衡问题,成为制约大模型深化应用的关键所在。”谷澍指出,当前AI已成为科技创新的重要引擎,在银行的应用不断拓展深化,有效助力了金融高质量发展。但也要关注大模型的规模化应用带来的新风险挑战。

在他看来,模型黑箱、模型幻觉、模型自主思考与决策带来的不确定性,是当前金融业大模型应用面临的突出风险。从底层运行机理来看,模型风险是一种客观存在,金融从业者要做的不是追求对风险的绝对消除,而是如何建立与风险共生的治理体系。

结合农业银行一线实践,谷澍现场分享了防控大模型应用风险的四大具体做法,其中以AI对抗AI构筑智能安全防线、健全权责与包容并行的内部AI治理体系两大举措,备受关注。

一是分类施策推进场景适配。按照金融场景的风险等级和监管合规要求,建立模型黑箱分级管控机制,不同场景匹配差异化的技术路线与可解释性要求。对于信贷决策等强监管场景,采用模型蒸馏技术,让大模型在数据合成、归因分析和决策式模型生成等方面提供助力,将大模型能力迁移至更具可解释性的小模型;对于投研分析等高认知场景,强化思维链(CoT)设计,构建清晰的“思考推理”轨迹,增强决策过程的透明度;对于产品营销等创意类场景,构建灵活的上下文工程,充分激活模型的随机性来激发创新活力。

二是设定一定的标尺约束控制模型幻觉。找准大模型与业务流程的结合点,设置必要的参数标尺,同时强化人机互补的约束机制,切实压缩大模型“自由编造”空间。比如,应用AI赋能信贷调查报告智能生成,通过建立业务标尺、模型互检、模型反思、业务数据校准等方式,对模型生成的内容进行自动校验,确保“讲得准”;信贷方案、用信条件等关键内容审核要由人类主导,确保结果可控。

三是以AI手段应对AI应用风险。AI大幅降低网络攻击门槛,传统安全格局面临根本性重塑,安全防御手段亟需升级。要“以AI对抗AI”,建立纵深防御体系,确保攻击可以早发现、快处置、能自愈,不断提升自动化、智能化的风险应对水平。要增强AI对抗能力,部署专门的安全监测模型,持续进行对抗训练,提升系统韧性。要建立全链路可信验证与准入机制,强化漏洞扫描和运行状态监测,确保供应链安全。要强化数据隐私保护,通过提示词注入防御、多租户会话隔离、输出内容拦截等措施,防范模型推理过程中的敏感数据泄露。

四是强化银行内部AI治理体系。AI治理分为宏观层面与企业层面,针对AI应用带来的风险,要健全“权责明晰与风险包容并重”的银行内部AI治理体系,确保AI既用得好、又管得好。要明确责任边界。持续完善覆盖需求提出、模型开发、上线运行、效果评估的全流程管理规范,明确业务、科技、风控等部门的责任边界,确保模型风险责任可追溯,杜绝“黑箱即免责”。要留足创新空间。建立分层的容错机制,坚持“先行先试、先内后外、先外围后核心”的渐进式策略,防止未经充分验证的AI能力直接面客。

谷澍强调,智能体范式的推广对工具接口的调用会进一步放大模型风险,将“信息幻觉”推向“行为失控”。因此金融从业者要把安全可靠作为智能体运行的关键前提,通过分层透明、人机协同、有效治理等多重机制,构建“敏捷、可信、安全”的智能体生态,赋能金融服务发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
彻底踢到铁板!特朗普断粮、中美俄齐点名,欧洲最后的遮羞布碎了

彻底踢到铁板!特朗普断粮、中美俄齐点名,欧洲最后的遮羞布碎了

军机不可泄漏
2026-11-21 16:41:34
又瘦了!张子宇17分钟14+7率队二连胜 国青队友:她的进步太大了

又瘦了!张子宇17分钟14+7率队二连胜 国青队友:她的进步太大了

颜小白的篮球梦
2026-11-21 07:32:25
利库德集团提组阁条件,要求内塔尼亚胡独任总理并支持打击伊朗

利库德集团提组阁条件,要求内塔尼亚胡独任总理并支持打击伊朗

界面新闻
2026-11-21 11:51:25
江西一新娘临时加8万彩礼,新郎扭头就去取钱,新娘到娘家后慌了

江西一新娘临时加8万彩礼,新郎扭头就去取钱,新娘到娘家后慌了

涛哥讲堂
2025-01-10 14:13:19
轰动全国的“91大神”庭审细节曝光,炸翻无数人

轰动全国的“91大神”庭审细节曝光,炸翻无数人

鸣金网
2026-10-18 14:17:30
特朗普宣布重大决定:计划在卸任前发布“大规模赦免”?

特朗普宣布重大决定:计划在卸任前发布“大规模赦免”?

黑翼天使
2026-11-20 13:57:16
《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质!

《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质!

娱乐故事
2026-11-19 23:25:20
纳指再次跌超5%,历史数据表示单月第三次出现的概率超七成...

纳指再次跌超5%,历史数据表示单月第三次出现的概率超七成...

CLabs加密观察
2026-11-21 09:45:20
聊聊你祖宗干的好事儿有多精彩!网友:我爸80年代差点被满门抄斩

聊聊你祖宗干的好事儿有多精彩!网友:我爸80年代差点被满门抄斩

夜深爱杂谈
2026-11-06 21:52:01
油价【继续大跌】,汽柴油大降“超0.63元/升”,11月“先涨后跌”的油价,11月26日或再“大跌向500元/吨”

油价【继续大跌】,汽柴油大降“超0.63元/升”,11月“先涨后跌”的油价,11月26日或再“大跌向500元/吨”

油价早知道
2026-11-21 05:44:47
37岁爸爸带11岁白血病儿子在武汉跑网约车,被投诉后挂提示牌恳请包容

37岁爸爸带11岁白血病儿子在武汉跑网约车,被投诉后挂提示牌恳请包容

黄河新闻网吕梁
2026-11-21 15:03:07
1963年,已经94岁的蒋妙月,向中央提出,说想去台湾,去见一见蒋介石,毛主席指示:“好好安排一下,礼送入台吧!”

1963年,已经94岁的蒋妙月,向中央提出,说想去台湾,去见一见蒋介石,毛主席指示:“好好安排一下,礼送入台吧!”

扶苏聊历史
2026-11-18 13:35:05
激战凌晨打响,伊朗火力全开收割战果,美军溃败,特朗普不再嘴硬

激战凌晨打响,伊朗火力全开收割战果,美军溃败,特朗普不再嘴硬

墨子翟的日记y
2026-11-18 11:05:57
黎曼猜想真被Claude证明了?陶哲轩邓煜等菲尔兹奖得主回应!

黎曼猜想真被Claude证明了?陶哲轩邓煜等菲尔兹奖得主回应!

智东西
2026-11-21 07:16:31
法国着急访华,王毅把地点改在大同,给马克龙带回了一句至理箴言

法国着急访华,王毅把地点改在大同,给马克龙带回了一句至理箴言

墨兰史书
2026-10-13 19:45:04
何涛(女)出任西南医科大学党委书记

何涛(女)出任西南医科大学党委书记

高教网
2026-11-21 09:30:03
BLG内部坚决不要ELK,viper回LCK概率无限接近100%

BLG内部坚决不要ELK,viper回LCK概率无限接近100%

记录生活日常阿蜴
2026-11-21 06:23:17
俄媒:北约参与袭击克里米亚大桥

俄媒:北约参与袭击克里米亚大桥

参考消息
2026-11-20 10:56:39
35分钟轰38+9!韩旭刷爆纪录,王思雨也不差,宫鲁鸣会感到欣慰吧

35分钟轰38+9!韩旭刷爆纪录,王思雨也不差,宫鲁鸣会感到欣慰吧

萌兰聊个球
2026-11-21 15:59:53
神秘“华人”爆料,某岛上钱色交易不值一提,深层次的秘密才可怕

神秘“华人”爆料,某岛上钱色交易不值一提,深层次的秘密才可怕

林林故事揭秘
2024-12-25 12:24:41
2026-11-21 18:08:49
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
287468文章数 745555关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
亲子
旅游
本地
公开课

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版