2025五道口金融论坛｜莫万贵谈AI风险，金融机构过度依赖几家科技公司，要避免羊群效应

5月18日，在2025清华五道口全球金融论坛上，中国人民银行金融研究所副所长莫万贵就数字金融与人工智能相关话题发表讨论。他指出，生成式AI在金融应用中面临模型幻觉、算法黑箱、科技公司依赖等多个风险，要构建涵盖金融机构、监管部门、科技公司等六大主体的"治理闭环"，要防范人工智能大模型带来的市场共振风险，建立相应的预防机制和预案。

谈AI风险：依赖少数几家科技公司

会上，莫万贵谈及，AI技术与金融行业的深度融合，正面临技术风险与系统性风险的双重挑战。

"一方面是模型幻觉，这对数据要求比较高，特别是金融对精准性、专业性、一致性、稳定性等要求比较高，存在幻觉的话，有些领域不能用；二是算法黑箱，可能对一些关键业务，满足不了穿透式监管要求，并且不利于风险管理溯源，也不利于责任认定，这也是一个问题。"莫万贵谈及。

"AI，特别是大模型的应用，是不是会放大传统类风险？"莫万贵认为，有多个层面需要关注：一是顺周期的风险，金融本身具有顺周期性；顺周期属性得到加强，会引发系统性金融风险，而这是模型共振带来的，如果模型、算法、训练数据都是相似的，导致行为决策结果是同质的，将会带来羊群效应。

二是大模型用的人越来越多，特别是中小机构也用起来，对一些大型科技公司的依赖性就加强，很多金融机构都依赖少数的几家科技公司，这些科技公司在一定程度上，演变成了金融基础设施，也可能放大相关风险。

三是DeepSeek应用所带来的技术平权，更多是缩小了技术的鸿沟，但是不是还有其他方面的效应，如对大型或小型金融机构影响差距是缩小了还是放大了？另外，大模型出来之后，是让消费者权益保护更加容易还是更加复杂了？

谈治理闭环：AI业务场景适配性很重要

就如何应对前述风险，谈及AI金融治理闭环，莫万贵进一步提到，闭环或生态系统应涉及六个主体，即金融机构、金融消费者、科技公司、行业治理组织、监管部门以及金融生态系统里的从业人员，要从这六个主体出发构建闭环，各尽其责，把监管和治理做好。

首先，金融机构要更加审慎，一是业务场景和特定技术是否适配，如果盲目将很多复杂的高深技术用到简单的业务场景，反而会变得复杂，带来不必要的风险，所以适配性很重要。二是尽可能减少对大型科技公司的过度依赖，开发个性化的、适合自己的东西，避免出现羊群效应。三是人机协同，可能金融机构要更加重视，特别是要把大模型应用纳入内部整体风控合规机制中，注重业务流程再造。

"一些关键业务流程，涉及决策的业务流程和任务节点，这时候就需要人工干预，人机协同、人工干预会增加可控性。"莫万贵称。

另从监管部门来看，要包容审慎，坚持"技术是中性的"理念，同时要深化金融科技创新监管工具的应用，营造一种允许试错、及时纠错、快速改错的氛围，支持金融机构、科技公司在风险可控情况下，在真实环境中先行先试。

同时坚持分级分类管理，发挥标准规范引领作用，特别是基于不同业务场景和业务流程的风险特征，区分类别进行管理，因地制宜设定相应的准入标准、备案机制、有针对性的监管措施等。要加强监管科技建设，怎么运用大模型技术提升金融管理能力，比如构建一些金融监管智能体。

此外对科技公司也可以有一些额外的监管要求。"因为市场有时是失灵的、分割的，这就要求我们监管部门、管理部门探索怎么赋能它，解决、纠正市场失灵带来的问题。"莫万贵谈及，另外，行业治理组织可能要发挥应有的提出治理倡议、治理公约的职能，甚至在制定一些行业标准等方面发挥作用。

而科技公司本身责任很重大，要考虑怎么严控伦理风险、责任风险，让产品、模型更加安全可控，跟金融机构深化合作。从业人员则要大量培养AI金融相关人才，满足相关应用监管等各方面要求。

谈宏观审慎监管：加强跨领域风险监测

业内谈及，AI驱动的金融创新，可能也会带来系统性风险的新型形态，那么，又该如何构建适应AI时代的宏观审慎监管体系？就此，莫万贵进一步谈及多个维度。

"宏观审慎政策其实是两个维度，一是逆周期，二是防止跨机构、跨市场的传染。"莫万贵指出，在人工智能应用下，会给系统重要性的金融机构带来一些什么样的影响？是不是有必要附加一些额外监管要求？例如对其个性化模型实施额外压力测试，在资本充足率、流动性管理等方面设置更高门槛等。

另外，对于AI金融基础设施，同样需要加强监管。

此外，在新一代人工智能技术加持下，跨市场、跨机构、跨产品的联动，会比以前变得更加容易，这会导致跨领域风险比以前更加严重，莫万贵认为，要加强这方面的监测分析，监管部门的信息共享、风险情报交互、监管协作、预案等也尤为重要。要提升监管的系统性金融风险的监测预警分析能力，要防范人工智能大模型带来的市场共振，建立相应的预防机制和预案。

北京商报记者刘四红