当AI进入金融体系，谁为机器的决策负责？

人工智能正走进金融体系的决策核心。它能把服务小客户的成本压下来，也能把责任推到一个说不清的地方。

在日前举行的2026外滩年会上，一场名为“金融领域AI治理：关键议题与可行路径”的圆桌就此开展讨论，世界银行常务副行长兼首席行政官张文才、中国工商银行行长刘珺、香港金融管理局副总裁阮国恒、欧洲50集团主席Lorenzo BINI SMAGHI用一小时讨论同一个问题：机器做了决定，人还担不担责。圆桌由国际货币基金组织驻华首席代表Marshall MILLS主持。

张文才说得最直接：“尽管技术来自其他机构，金融机构仍然要承担责任，对人工智能进行决策并负责。”

他给出世界银行的调查：只有11%的新兴市场金融监管机构在使用AI赋能的监管工具，约50%的机构表示没有足够的人员和工具进行有效监管。“现在对于这个问题有两个不同的速度。”走得快的已用AI预防和侦查欺诈，走得慢的几乎没有工具。两边共同面对的，则是对少数云服务商和模型商的过度依赖。

他主张“借鉴而非重新发明”：能力有限的国家先把数字身份纳入数据保护和支付体系，资源投向风险最高的领域；同时让网络安全、数据保护机构“坐在同一个房间”协调决策，跨境共享监管工具与早期预警。

刘珺把问题推向更前。在他看来，治理的第一道关口不是技术标准，而是身份认定。“人工智能究竟是会成为与人类地位平等的法律主体，还是仅仅作为一种辅助人类的技术工具？”

身份之争的背后是责任落点。过去银行用一套系统办业务，出了事银行担责；但AI链条上有算法开发者、部署方、使用方和终端用户。“最终责任究竟应当由谁承担？人工智能算法在某种程度上而言处于黑箱之中，责任的认定与核实在当前阶段十分困难。”

他列出四重错配：监管要求充分披露，算法参数却难以披露；数据须本地存储，数据与算法却没有国界；各国都不愿把控制权交给别国，于是有了“主权人工智能”；银行业以信用立身，却难以对闭源、开源等模型给出信用评分。

解法是把AI视作“类人的准法律主体”，与现有市场参与者治理体系并轨，把AI产生的数据轨迹纳入同一体系，“实现从源头到终点的全流程覆盖”。工行已部署数百个模型，按业务线细分哪些节点必须由人处理。涉及定价管理且敞口巨大的业务，“人必须从一开始就参与其中”。

阮国恒带来的是监管者的经验。他指出，AI应用从助理到生成式再到代理式，“走得越前，面对的挑战越大”。最关键的“情境挑战”在于，70%的银行向金管局表示，人工智能、代币化、分布式分类账技术和云端等相关部署已进入董事局层面的讨论。“如果只把技术当作提升生产力的工具，只需要做各式各样的测试……但这是对治理狭义的理解。”银行实际是以技术重构商业模式，从用例选择到事故处理，全生命周期都在治理框架内。

责任分配上他主张共担，但要有框架。以深度伪造诈骗为例：银行发现可疑而未行动，应由银行担责；客户不保持警觉而受损，应由客户负责。“但在两者中间，通常在90%的情况下，需要每个案例逐一分析和判断。”他提到，英国、新加坡、澳大利亚等地要求技术提供者承担一定责任。监管上，他强调监管者应多发挥支持、协助作用，给银行留出“快速试错”的空间。10月15日，金管局已公布“ART”框架，即可问责、具韧性、可信赖。

Lorenzo BINI SMAGHI把视角拉到一般均衡。他认为真正的世界不是“人类选择是否信任人工智能”，而是人人拥有智能体，人类需要获得智能体的信任，智能体之间也要彼此建立信任。“金融机构的客户可能更相信自己的智能体而不是银行或监管者，目前我们对于这样的局面还不具备管控能力。”

他用凯恩斯的选美竞赛作比：音乐还在播放时人人都要跳舞，关键是谁更早知道音乐何时停止。“但我们如果拥有一群非常聪明的智能体，它们就会同时扑向同一把椅子，而这会引发市场剧烈震荡。”

由此他提出一个更棘手的问题：智能体的激励机制怎么设计？人类交易员的薪酬要对未来六到十年的行为负责。“我们尚且不知道如何为智能体建立激励机制，以让它们能够参考久远的历史信息。”他接着说：“我没有答案，但我们可能会在下一轮危机中找到答案。”

收尾时主持人请四人各说一件未来一两年最该做的事，答案高度一致。BINI SMAGHI说，政策制定者应与金融机构协同而非对立，这是学习的过程。刘珺说，没有哪个国家能独立解决问题；他建议借鉴法律领域的“排除合理怀疑”标准，AI若无法实现可解释性和互操作性，就应当被搁置，这正是人类可按下的“紧急关停”开关。

原标题：《当AI进入金融体系，谁为机器的决策负责？》