网易首页 > 网易号 > 正文 申请入驻

先回答“谁担责”,再谈怎么发展

0
分享至

商业银行不能像科技公司那样“先上车后补票”,必须更审慎。银行在面对AI时,第一个问题不是“怎么用”,而是“它是谁”。

如果用一个艺术流派来比喻当下的人工智能,中国工商银行行长刘珺说,它既不是印象主义,也不是写实主义,而是立体主义,甚至带有后现代主义的气质——多面体、碎片化,充满了不确定性与未知。“我们正面临大量不确定性,甚至还有许多未知因素,影响着人工智能未来的发展轨迹。”10月19日-22日,2026外滩年会在上海举行,在一场关于AI与金融的讨论中,刘珺开口没有谈技术,而是先谈了一种处境。

刘珺表示,诸多挑战让银行家们面临一系列难题。难在哪里?难在范式的跳跃。商业银行刚刚走完以计算机系统建设为核心的阶段,系统搭起来了、业务整合了,才刚刚迈入对数据汇集、数据集构建、数据分析寄予厚望的数字化转型期——“到目前为止,我们还没有完成这一转型过程”——却已经被推上了通往AI的新路。“我们根本无法确定未来会发生什么。”

更关键的是,商业银行的业务直接连着公众日常生活、连着产业、连着市场活动。它不能像科技公司那样自由地“先上车后补票”,只能采用相对成熟、经过验证的技术。这种审慎,决定了银行在面对AI时,第一个问题不是“怎么用”,而是“它是谁”。

“人工智能究竟是主体,还是客体?”刘珺提出了这个看似哲学的问题。

他借用哲学家约翰·塞尔的框架:采取“强AI”立场,意味着AI迟早将获得类似人类的意识;采取“弱AI”立场,则AI不过是一种工具。但现实正在滑向一个尴尬地带——AI会发展出某些能力,能够绕过人类进行讨论、谈判,甚至相互串通、破坏系统、超越规则。“这将是非常危险的。”

由此引出的是一连串治理之问:AI是否应当成为与人类并列的法律主体?还是仅仅是技术工具?谁来为它的行为负责?

过去,银行用计算机系统出了问题,责任在银行自身,无法推卸。但AI的链条长得多——算法开发者、程序员、部署方、使用方、最终用户,各居其位;而算法又是黑箱,“因此,责任的认定与核实,在当前阶段都十分困难”。

刘珺由此点出四个“不匹配”:监管要求充分披露,但算法和数据参数仍在黑箱之中;数据必须存储在主权管辖范围内,但数据与算法天然跨境流动;AI应当受主权管辖,没有哪个国家愿意把控制权交给他国;最后,商业银行建立在精细的信用评分体系之上,但我们应该如何对人工智能算法进行准确的信用评估?闭源、开放权重、开源模型,各有各的不透明。

“如果无法解决前面这两个问题,那么促进发展也就无从谈起。”刘珺说。

他给出的建议颇具跨学科色彩。他借用比特币定价机制中的“工作证明、历史证明和权益证明”,再增加一个因素——“收益证明”:谁从AI部署中获益,谁就应当独立承担相应责任。

“如果工行在不同业务线上大量使用和部署AI工具和智能体,而所有收益都进入工行的资产负债表以及利润和收入报表,那么就意味着我们承担AI部署的责任。”他举例,“如果出了严重问题,工行就应该向相关受害者赔偿,并向市场给出最终答复。”

在具体业务边界上,工行已部署数百个AI模型,并按业务线拆解:高度依赖数据的业务,给AI更多自主权;直接面向客户的业务,让“环路中的人”处理主要决策;涉及价格管理、金融与社会大额敞口的业务,从一开始就必须有人参与。而无论何种情形,“人类必须把关闭开关嵌入流程”。

他还借鉴法律中“排除合理怀疑”的标准:AI工具若不能实现可解释性与互操作性,“我们就必须把这些AI工具放到一边”——这是人类握在手中的切换开关。

尽管问题重重,刘珺坚持一个底线:所有技术发展最终都应服务于人类社会的进步,“否则,我们甚至没有必要讨论人工智能发展的利弊得失”。在他看来,没有任何一个国家能独自应对AI治理,全球协作是关键词;甚至可以考虑将AI视为一种“准人类法律主体”,与人类主体的治理体系并轨,建立统一的监管机制——借助已有的数据标注与追踪能力,把AI的行为轨迹与现有市场参与者的数据整合在一起,实现全流程贯通。

“但整个过程非常艰难,我们一边前进一边学习。”刘珺说,“这是一条相当艰难的道路,但我们可以一起合作。”

来源:中国青年报客户端

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

背包旅行
2026-11-17 12:11:31
疑似用虾滑充当肿瘤?中南大学湘雅二医院被爆出史诗级全AI论文

疑似用虾滑充当肿瘤?中南大学湘雅二医院被爆出史诗级全AI论文

西虹市闲话
2026-11-16 18:42:42
浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

大风新闻
2026-11-17 08:52:07
536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

极目新闻
2026-11-16 22:53:06
年轻人不性交了?三联可能回避了真问题

年轻人不性交了?三联可能回避了真问题

熊太行
2026-11-17 12:47:34
中山大学司徒尚纪教授逝世

中山大学司徒尚纪教授逝世

双一流高校
2026-11-17 01:12:32
中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

澎湃新闻
2026-11-17 08:59:05
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
唐山:调查处置升级

唐山:调查处置升级

澎湃新闻
2026-11-17 16:53:04
一个神人,“崩”了孙正义900亿

一个神人,“崩”了孙正义900亿

大猫财经Pro
2026-11-17 15:39:07
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
突发!黄仁勋大反击!

突发!黄仁勋大反击!

财经要参
2026-11-17 07:30:09
逾3500股飘红!两大板块,多股涨停

逾3500股飘红!两大板块,多股涨停

证券时报
2026-11-17 12:39:44
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

兴趣知识
2026-11-17 04:12:55
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
罕见!美两党放下成见,一致对准共同敌人,鲁比奥发“斩首”威胁

罕见!美两党放下成见,一致对准共同敌人,鲁比奥发“斩首”威胁

麓谷隐士
2026-11-17 01:02:42
2026-11-17 18:27:00
中国青年报 incentive-icons
中国青年报
有重大影响力的全国性综合日报
169478文章数 595358关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

本地
亲子
健康
艺术
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

佳贝艾特荷兰版获2026“年度亲选奖”

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

寸境宏光——2026中国小幅油画展 作品选四

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版