商业银行应用大语言模型的可解释性挑战 | 金融与科技

文/徽商银行研究发展部总经理周庆霞

大语言模型为银行业数字化转型注入了强大动力，但其固有的不透明性使可解释性成为一道必须跨越的门槛。商业银行唯有正视并积极克服可解释性难题，建立起技术、业务与治理相匹配的透明可信AI应用框架，方能真正安全、合规地释放潜能，实现“智慧金融”创新与稳健经营的良性共振。

当前，以大语言模型（Large Language Model, LLM）为代表的新一代人工智能技术正深刻重塑金融业态，其强大的自然语言处理与内容生成能力，为商业银行客户服务效率提升、风险控制、合规审查等方面提供了全新的思路。然而，LLM决策过程也带来了严峻的可解释性（Explainability）挑战,其复杂的深度学习架构与海量参数导致决策过程呈现“黑箱”特性，不仅在技术层面难以彻底破解，更对算法问责与法律救济构成实质性障碍。对于强调审慎合规的银行业而言，问题更为突出。一方面，监管机构要求金融模型决策过程透明合规，金融消费者依法享有知情权；另一方面，银行内部的风险管理与审计流程必须能够对模型输出结果进行审查与归因。LLM往往难以完全满足上述要求，其生成内容有时看似逻辑自洽，实则可能基于错误或虚构的信息，即“幻觉”（Hallucination）现象，而这种内在的不可靠性进一步侵蚀了模型决策的可解释性与可信度。鉴于此，本文拟从监管法规、技术机制与业务实践三个维度，对银行在应用LLM过程中面临的可解释性挑战进行系统性辨析与论证。

监管法规对可解释性的刚性约束

金融监管机构日益强调AI模型的透明度，要求银行充分披露决策依据，以满足合规要求并保护消费者权益，这构成了LLM应用的首要外部约束。

金融消费者保护与算法问责

在信贷审批等直接关系客户权益的场景，算法决策必须提供明确理由，以保障公平性与可问责性。欧盟《通用数据保护条例》（GDPR）等域外法规已确立了对自动化决策的透明度要求；国内监管部门同样强调，当银行使用AI模型拒绝客户的信贷申请时，必须能够说明原因。若“黑箱”算法导致了歧视性或不公正的结果，将直接侵害消费者权益。例如，高盛发行的苹果信用卡，曾因其授信算法涉嫌性别歧视而引发监管调查，凸显了模型不透明可能带来的严重后果。为此，监管机构积极推动“算法审计”与“人工复核”机制，原银保监会发布的《商业银行互联网贷款管理暂行办法》规定，商业银行需建立人工复核验证机制，作为风险模型自动审批的必要补充，此举旨在通过人工监督，确保算法决策符合伦理与公平原则，并使责任主体清晰可追溯。

全球监管科技与透明度政策趋同

推动AI模型可解释、可监管已成为各国的政策共识，如新加坡金融管理局的FEAT原则涵盖公平性（Fairness）、道德性（Ethics）、可问责性（Accountability）和透明度（Transparency）。中国人民银行发布的《人工智能算法金融应用评价规范》，已将可解释性列为核心评估指标。欧洲银行管理局（EBA）在其对“通用型AI”的分析报告中指出，银行必须确保GPAI模型的能力与局限得到透明披露，尤其需满足模型验证、合规审查和消费者保护的要求。更具里程碑意义的是，2024年生效的欧盟《人工智能法案》对用于信用评估等高风险金融场景的AI系统，规定了严格的透明度与可解释性义务。中外监管动向表明，可解释性已从“软性倡议”转变为“硬性要求”，银行若想大规模应用LLM，必须严格遵守监管红线。

大语言模型内生机制的技术可解释性障碍

LLM自身的模型架构与运行机理，决定了其在技术层面难以实现完全的可解释性。

注意力机制的“伪解释”与参数规模的“黑箱”效应

LLM大多基于Transformer架构，其内部包含数百亿乃至万亿级的参数，结构极端复杂。尽管Transformer引入的“注意力机制”（Attention Mechanism）一度被视为解释模型行为的窗口，但后续研究表明，注意力权重与模型预测的特征重要性之间仅存在弱相关性，甚至呈现不一致性。有学者证明，将注意力分布替换为随机值，模型输出几乎不变的实验结果，证伪了单纯依赖注意力权重进行解释的可靠性。LLM的参数量级也对解释算法的复杂度构成了根本性限制，庞大的参数规模使得传统解释算法（如特征归因分析）的计算成本过高，难以对高维模型进行有效剖析。模型知识以分布式方式存储于海量神经元权重之中，其推理过程远非简单的决策树或规则系统所能概括，形成了对人类而言难以穿透的“黑箱”。

“幻觉”现象与不确定性对可解释性的侵蚀

LLM特有的“幻觉”问题，即生成看似合理但与事实不符或毫无依据的内容，进一步加剧了其不可解释性。目前，即便是最前沿的LLM也普遍存在此问题，且尚无根治之法。从解释性视角看，“幻觉”意味着模型输出无法追溯至任何可靠的输入或训练数据源，当LLM输出错误信息时，错误可能源自训练语料的噪声、模型内部表征的模糊性或生成过程的随机性，用户难以定位其内在的归因逻辑。这种输出行为的高度不确定性与不可预测性，严重阻碍了对模型决策机制的稳定解释。在金融场景中，由“幻觉”导致的不可靠输出是重大隐患，“幻觉”问题因此被视为LLM可解释性的核心技术障碍之一，亟待算法层面的突破......

付费¥5

阅读全文

来源 | 《清华金融评论》2025年8月刊总第141期

编辑丨周茗一

审核 | 丁开艳

责编丨兰银帆‍

Review of Past Articles -

01

02