当金融智能体长出“手脚”，如何守住安全底线？

“金融智能体应用应坚守‘人是关键新型技术的主人’，按风险等级合理界定人机协同与AI替代边界，在风险处置和关键判断环节由人把关，保障AI应用安全、稳健、可持续。”3月28日，在新金融联盟主办的“金融智能体的业务赋能与安全合规”内部研讨会上，与会专家表示。

会议由新金融联盟秘书长吴雨珊主持，中国金融四十人论坛提供学术支持。国家金融监督管理总局科技监管司相关领导、建设银行原首席信息官金磐石作主题交流。民生银行首席信息官张斌、北京银行(601169)首席信息官明立松、交通银行金融科技部副总经理朱麟、中科金财(002657)董事长朱烨东发表主题演讲。94家银行、非银机构与科技公司代表通过线上线下参会。

研讨会现场

金融智能体融入核心业务

随着生成式AI技术快速迭代，金融智能体正从交互辅助向自主执行演进，在渠道服务、客户经营、风险管理、科技研发、智能办公等领域多点落地，有效提升业务自动化水平与运营效率，成为金融业数字化转型的重要方向。

交通银行搭建了企业级AI能力平台与智能体应用研发平台，实现国产算力适配与调度，已打造智能体2500余个，覆盖风险防控、流程再造、零售运营、员工赋能及分行特色场景数百个。在AI产品矩阵上，该行打造了反洗钱、反诈、信贷助手等AI拳头产品，建立总分协同的AI研发机制，助力分行特色AI应用快速落地。此外，在信贷、客服等领域持续探索和推进端到端人机协同新模式。朱麟认为，如何将数据转化为知识、形成智能决策与执行的闭环能力，将成为银行未来核心竞争力。

民生银行将生成式AI作为重点工程推进，2025年日均token用量达40亿，大模型日均调用量超100万次，应用覆盖办公及业务用户6.3万人，落地40个项目、260个细分场景。在信贷领域，审查审批环节智能辅助生成内容采纳率达84%，全年累计节约人工4万小时；法律合同审查耗时从小时级压缩至分钟级，财务分析中风险信号识别率提升至50%。在软件工程领域，氛围编程、代码补全广泛应用，规格驱动开发（SDD）模式显著提升代码生产效率与质量。张斌表示，在信贷业务AI赋能与流程重塑项目中，民生银行(600016)信贷业务专家深度参与其中，业务与技术的协作模式从融合到共创是一个必然趋势。

北京银行按照任务类型构建速办、深研、巡航三类智能体，通过统一超级智能体实现集中调度与监控。速办智能体聚焦标准化业务办理，深研智能体支撑多源信息整合研判，巡航智能体开展常态化风险监测。明立松表示，在信贷流程中，人工智能嵌入关键业务需完成三项前提工作：一是重构所有业务系统，消除线下与手工操作节点，实现数据标准化与接口统一；二是推动端到端流程全面线上化，覆盖贷前客户筛选、贷中审批、贷后监控及不良资产归因处置，确保流程无缝衔接；三是在此基础上，识别可由人工智能替代的环节。

智能体自主执行带来安全挑战

尽管金融智能体应用成效显著、前景广阔，但行业仍处于探索初期。智能体自主执行、高权限的特性，带来远超传统大模型的风险与治理挑战，成为向核心业务深度渗透的关键瓶颈。

一是操作风险从“说错”转向“做错”。与传统大模型“说错话”不同，智能体一旦被赋予系统操作、数据访问、文件修改等高权限，在缺乏有效管控情况下极易出现误删、误改、数据泄露等问题。金融交易不可逆的特性，使此类风险危害更大、后果更难挽回。

二是技术、业务与制度适配不足。朱烨东表示，通用大模型对金融专业逻辑理解有限，易产生幻觉、输出错误信息，难以满足高合规、高精准要求。技术与业务之间存在天然“语言壁垒”，语义理解偏差会直接导致任务编排错误、决策失准。与会专家认为，银行现有授权体系偏静态、碎片化，难以支撑智能体跨系统、全流程高效运行，严重制约了其能力发挥。

三是安全防护与治理机制建设相对滞后。金磐石表示，智能体的架构特性大幅扩大了网络攻击面，提示词注入、插件投毒、敏感信息泄露等新型安全风险显著上升。更关键的是，智能体权限与责任界定模糊，风险暴露面从对话内容、数据安全，延伸至金融机构内部所有任务执行对象，但目前尚无统一行业标准明确责任归属。

四是算力与资源成本压力持续加大。智能体在研发、算力、人才、数据治理等环节均需大额持续投入，高频交互场景下算力成本激增，全行业面临投入产出平衡压力，中小银行资源约束更为突出。

构建安全可控的金融智能体治理体系

面对挑战，业界正以安全可控、务实创新为原则，探索适配金融场景的智能体治理路径，推动技术应用与风险防控协同落地。

一是建立分级分类、权责清晰的人机协同机制。张斌介绍，民生银行依据应用场景风险等级实施差异化人工介入策略：低风险场景采用抽样审计，中低风险场景实行例外驱动，中高风险场景严格执行人机协同，避免AI失误造成不可逆损失。朱麟表示，交通银行(601328)推进模型分级分类管理，完善安全测评体系与应用安全围栏，在风险处置与关键决策环节由人工最终把关。

二是强化异构模型储备与智能体冗余设计。若行业过度依赖少数几款模型，一旦底层逻辑出现偏差或遭受针对性攻击，极易引发行业共振式失效。通过异构模型交叉运用与验证，可有效阻断单一模型风险传导，避免技术风险演化为系统性风险。同时，关键业务不应依赖单一智能体，可采用多智能体共同决策，进一步提升系统韧性与运行稳定性。

三是推进权限治理变革，收缩智能体自主边界。朱麟建议，从静态授权转向任务级动态授权，按上下文临时授予最小必要权限，任务完成立即回收，通过灵敏权限引擎支撑智能体合规高效运行。金磐石表示，智能体技术创新应明确应用场景边界，严格权限与工具使用规范，在安全管控体系完善前，严控自主能力范围，防范过度授权与不可控操作风险。

四是构建本体智能底座，从根源破解幻觉难题。朱烨东提出，本体语义模型是让AI真正懂金融、懂业务的核心支撑。通过将客户、账户、交易行为、风险规则、执行动作等业务要素“显性化”为机器可理解的动态本体语义网络，实现从技术数据模型向业务事实模型升级，提升通用大模型理解、关联与推理能力，从源头降低幻觉风险。基于本体语义底座可构建统一调度的银行大脑，实现硅基员工标准化管理与协同作业，提升智能体可靠性与安全性。与会专家建议由行业协会牵头，制定金融行业本体标准，夯实规模化应用基础。

五是优化技术架构，探索成本可控路径。朱麟建议采用先进架构，将预填充与解码阶段分离，分别搭配差异化AI芯片，提升系统吞吐量、降低算力成本。明立松提出，可探索混合云、共享算力等模式，优化资源配置、提升投入产出比。

本文来自和讯财经，更多精彩资讯请下载“和讯财经”APP