压实金融机构人工智能开发应用主体责任

来源：市场资讯

　　来源：中国银行保险报

　　6月18日，金融监管总局印发《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》），从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障监督等方面提出32项具体指导规范。

　　《指导意见》出台恰逢其时

　　近年来，人工智能技术全面渗透银行业保险业前中后台全业务链条，彻底重塑传统金融服务模式与运营范式。随着智能风控、AI信贷审批、智能投顾、自动理赔、客户智能服务等场景普及，金融AI已从辅助工具升级为自主作业、驱动业务增长的核心生产力。截至2026年5月，AI智能算力、算法模型已全面覆盖银行、保险、证券、基金等百余家主流金融机构，深度应用于财富管理、风险管控、资金交易等核心金融场景，成为金融培育新质生产力的重要抓手。

　　技术快速迭代的背后，各类新型金融风险持续积聚滋生。当前行业AI应用普遍存在重创新轻合规、重效率轻风控的问题，算法黑箱、模型不可解释、数据泄露、算法歧视、投资策略趋同等风险隐患凸显。部分机构盲目跟风技术创新，滥用AI工具开展量化交易，极易放大市场波动；个别机构数据管理不规范，违规使用客户隐私数据训练模型，侵害金融消费者合法权益；权责划分模糊、风险追溯困难、外包管控薄弱等乱象，进一步加剧金融安全隐患，对金融稳定运行构成严峻挑战。

　　在此背景下，《指导意见》的出台具有极强的现实必要性与战略指导性，是金融监管总局落实国家“人工智能+”行动部署、完善金融科技治理体系的关键举措。其最大亮点是锚定“谁使用谁负责”的核心原则，全面压实金融机构主体责任，为金融业AI创新划定权责边界、明确合规底线，推动行业智能转型从野蛮生长迈向规范提质新阶段。

　　压实全链条主体责任

　　《指导意见》明确金融业AI发展谁使用谁负责、自主可控、务实高效、安全发展四大原则，将“谁使用谁负责”置于首位，从根本上破解长期以来金融AI应用权责模糊的行业痛点。一方面，在顶层治理层面，《指导意见》要求董（理）事会指定专门委员会对人工智能开发应用管理负责，统筹制定发展规划，明确牵头部门和跨业务、科技、数据职能部门的协同机制。从而打破部门壁垒，杜绝AI安全治理仅由技术部门单独负责的片面局面，实现全员、全部门、全层级压实责任。

　　另一方面，在流程管控层面，建立全生命周期管理机制，覆盖需求调研、数据采集、模型训练、部署运行、迭代更新、评估退出六大环节。要求机构在各环节嵌入合规审查、风险筛查、伦理评估流程，完整留存模型运行日志、决策路径、数据记录，确保所有AI业务可查询、可追溯、可追责。同时明确人机协同边界，针对信贷审批、承保理赔、资金交易、风险定价等关键高风险场景，强制设置人工复核节点，严禁AI完全自主决策，守住业务安全底线。

　　值得一提的是，风险治理是落实AI主体责任的核心抓手，为此，《指导意见》明确要求将人工智能风险全面纳入金融机构全面风险管理体系，通过分类分级管控、外包合规治理、数据安全管控三大举措，全方位防范化解AI金融风险。

　　一是实施AI风险分类分级、准入管控管理。《指导意见》精准界定金融AI高风险应用场景，将直接影响金融合约达成、关联资金安全与消费者核心权益的信贷审批、资产评估、资金交易、承保理赔、风险管控等场景全部纳入高风险范畴。高风险AI应用必须经机构风险管理委员会专项审批准入，建立常态化人工监督、动态监测、紧急停用机制，根据市场变化、模型偏差动态调整应用权限，严控系统性风险隐患。同时严禁依托AI算法开展趋同交易、批量操盘，杜绝技术滥用加剧市场波动。

　　二是强化外包与供应链风险治理。针对行业普遍存在的AI技术外包依赖问题，《指导意见》建立外包机构名单制、准入制、动态管控制度。要求机构与外包服务商签订专项合规协议，明确数据使用、模型开发、风险防控、责任划分细则，建立风险隔离防火墙，严禁外包机构擅自挪用、泄露、加工金融敏感数据。同时明确外部引入的生成式AI模型必须完成网信部门备案，未经合规备案不得投入业务应用。

　　三是严守数据安全与消费者权益红线。《指导意见》明确要求姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露。同时要求机构规范AI内容输出管理，所有AI生成的金融分析、服务答复、投资建议内容，必须显著标注AI生成属性，杜绝伪装人工服务误导消费者，切实保障金融消费者知情权与公平交易权。

　　《指导意见》的落地实施，核心是推动金融机构彻底转变发展理念，平衡AI技术创新与安全合规的关系，摒弃重速度、轻安全的粗放发展模式。对金融机构而言，压实主体责任并非束缚技术创新，而是通过明确规则、划定底线，为合规创新、良性发展保驾护航，避免行业因无序创新滋生系统性风险，实现稳中提质的智能转型。

　　在金融业人工智能发展进入提质增效、合规发展的关键阶段，《指导意见》以清晰的权责界定、完善的风控体系、明确的发展导向，为金融AI高质量发展保驾护航。金融机构应主动对标《指导意见》要求，压实主体责任，加快完善AI治理架构，细化全生命周期管理流程，强化人员能力建设，筑牢数据与算法安全防线，真正实现人工智能技术服务实体经济、优化金融服务、防控金融风险的核心价值。