网易首页 > 网易号 > 正文 申请入驻

工行行长刘珺谈AI治理:不解决“身份定位”和“责任”问题,AI将很危险

0
分享至



(图片来源:视觉中国)

蓝鲸新闻10月20日讯(记者 严沁雯)"人们经常谈论各种未知的黑天鹅因素,而人工智能未来的发展本身就可能伴随着大量黑天鹅事件。"在2026外滩年会上,工商银行行长刘珺在"金融领域AI治理:关键议题与可行路径"的圆桌讨论上表示。

刘珺认为,当前大家正面临大量不确定性,甚至还有许多未知因素,影响着人工智能未来的发展轨迹。

银行业刚刚走过以计算机系统建设为核心的发展阶段,完成了相关系统的搭建。在刘珺看来,数字化转型阶段对于商业银行业务至关重要。银行从业者们正努力汇集各类数据,建立数据集,运用数据分析技术,提升自身的决策能力。

"但到目前为止,我们还没有完成这一转型过程就已经踏上了一段新的旅程。而这段旅程将把我们带向一个新的领域,其中充满了未知,我们根本无法确定未来会发生什么。"刘珺指出,作为商业银行从业者,只能采用相对成熟、经过验证的技术。

在此背景下,刘珺认为,人工智能的身份定位困境,即"人工智能究竟是主体还是客体?"必须得到解决。"迟早有一天,我们会发现人工智能发展出了某些能力,能够绕过人类进行讨论和谈判,甚至相互串通,破坏现有系统,绕过既定规则。这将是非常危险的。"

刘珺提出两个层面的问题:一是人工智能是否应当成为与人类并列的法律主体,还是仅仅作为一种技术工具;二是究竟由谁承担责任。需要提出新的思路,确保相关行为的责任归属得到清晰界定。

刘珺称,在过去,一名银行从业者若使用某一套计算机系统开展业务,相关责任就由其承担。但人工智能的开发和应用过程中涉及众多环节,相关责任可能涉及算法开发者、程序员、部署方、使用方以及最终用户。当各方处于不同环节,由谁承担责任?这与黑箱问题一起,导致当前阶段责任的认定与核实十分困难。

对此刘珺提到四个不匹配:监管要求充分披露相关信息,但人工智能算法及其各种数据参数,在某种程度上仍处于黑箱之中;数据存储要在本国主权管辖范围内,但数据与算法均无国界;人工智能应当受到一定的主权管辖,没有任何国家愿意将人工智能的控制权交给另一个国家;商业银行业建立在信用基础之上,已经建立了成熟、精细的信用评分体系,但"如何对人工智能算法进行准确的信用评估"、"如何评估不同类型模型的可信程度"均是当前存在的问题。

"尽管我们面临着诸多问题与挑战,我们必须确保,所有技术发展最终都应当服务于人类社会的进步。我们必须确保人工智能能够帮助人类,共同迈向更加美好的未来。否则,我们甚至没有必要讨论人工智能发展的利弊得失。"刘珺强调。

在此基础上,刘珺提出,如果能将人工智能视为一种类似人类的准法律主体,并将人工智能金融治理与人类主体的治理以及现有市场参与者的治理体系结合起来,便能建立一套统一的治理机制,对人工智能实施监管。具体而言,是将人工智能运行过程中产生的数据轨迹,与现有市场参与者的相关数据整合并纳入统一的体系,实现统一管理和全流程贯通。

在论坛上,刘珺还从"AI给商业实体乃至市场中不同利益相关者带来的收益"角度介绍了工行的经验。他提到,将工作证明、历史证明、权益证明和收益证明这四个因素结合起来,就可以确保能够识别并清晰界定AI在某项业务活动中最终承担的责任。

"如果工行在不同业务线上大量使用和部署AI工具和智能体,而所有收益都进入工行的资产负债表以及利润和收入报表,那么就意味着承担AI部署的责任。如果出了严重问题,就应该向相关受害者赔偿,并向市场给出最终答复。"刘珺举例称。

据刘珺介绍,在工行的业务流程中,如果某项业务高度依赖数据,便让AI在业务流程中拥有更多自主权;如果直接面向客户,会把大量人工团队放进流程中;如果涉及价格管理,并且具有很大的金融和社会敞口,从一开始就必须有人类参与。目前,工行已经部署数百个AI模型,分类到不同领域,再拆分到不同业务线,并明确哪些决策点必须由人处理、哪些环节可完全由AI工具自动化。

"但整个过程非常艰难,我们一边前进一边学习。这是一条相当艰难的道路,我确实认为央行应该给我们很多帮助,我们可以一起合作。"刘珺表示。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

墨策讲历史
2026-11-12 12:47:12
丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

兰姐说故事
2025-04-30 20:00:14
乐道L90上线订阅,2999元开一个月

乐道L90上线订阅,2999元开一个月

E车汇
2026-11-17 16:10:47
热搜第一!“我愿意为自己的行为负责,只求放过我的家人!”14岁初中生发长文喊话明星虞书欣引热议

热搜第一!“我愿意为自己的行为负责,只求放过我的家人!”14岁初中生发长文喊话明星虞书欣引热议

笨鸟摘文
2026-11-18 11:55:31
腾讯发文:已到生死存亡时刻,未来不一定要那么多管理岗位,需要一半人去打新的战役

腾讯发文:已到生死存亡时刻,未来不一定要那么多管理岗位,需要一半人去打新的战役

21世纪经济报道
2026-11-17 07:38:59
沐神入局!李沐杀入世界模型,目标打造商业AI沙盘

沐神入局!李沐杀入世界模型,目标打造商业AI沙盘

魏家东
2026-11-17 09:06:47
还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

带你感受人间冷暖
2026-11-14 15:59:30
81.4%扑救率全欧第一,这个开拖拉机的成了英格兰一门

81.4%扑救率全欧第一,这个开拖拉机的成了英格兰一门

日常碎碎念啊
2026-11-17 12:29:46
江苏三大国企是哪三个?

江苏三大国企是哪三个?

网观天下
2026-11-18 07:33:22
2020年杭州杀妻碎尸案,丈夫将妻子绞碎后,耗两吨水冲进下水道

2020年杭州杀妻碎尸案,丈夫将妻子绞碎后,耗两吨水冲进下水道

历史品鉴仓
2025-06-21 08:00:03
硬刚到底,演出被举报后,曹云金再回应,没给郭德纲留"体面"

硬刚到底,演出被举报后,曹云金再回应,没给郭德纲留"体面"

阿废冷眼观察所
2026-11-18 15:51:55
马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

普陀动物世界
2026-11-18 05:49:40
轰40+11+8三分,垫底鱼腩养出超级奇兵!末节独揽25分终结12连败

轰40+11+8三分,垫底鱼腩养出超级奇兵!末节独揽25分终结12连败

锅子篮球
2026-11-18 15:30:14
被丈夫满文军揭发,服刑11个月重获自由,李俐为何出狱7年才离婚

被丈夫满文军揭发,服刑11个月重获自由,李俐为何出狱7年才离婚

梦醉为红颜一笑
2026-11-17 18:57:37
特朗普不想在菲律宾浪费时间,他准备吃完午饭,专机立刻北上中国

特朗普不想在菲律宾浪费时间,他准备吃完午饭,专机立刻北上中国

铁锤侃侃而谈
2026-11-18 14:31:52
赵一鸣神话碎了:万店狂奔后,一场加盟商的集体出逃

赵一鸣神话碎了:万店狂奔后,一场加盟商的集体出逃

牛锅巴小钒
2026-11-17 02:38:22
41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

极目新闻
2026-11-18 08:26:33
曝蔡天凤案大反转!6000W豪宅邝球拿了3000W,写他名是为了省税

曝蔡天凤案大反转!6000W豪宅邝球拿了3000W,写他名是为了省税

神秘的未知领域
2026-11-18 01:50:28
大逆转!湖人118-114击败黄蜂!东契奇创79年纪录,格兰姆斯爆砍47分

大逆转!湖人118-114击败黄蜂!东契奇创79年纪录,格兰姆斯爆砍47分

篮球大视野
2026-11-18 15:12:35
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
2026-11-18 16:40:49
蓝鲸新闻 incentive-icons
蓝鲸新闻
财经信息服务平台
140987文章数 194199关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
游戏
家居
旅游
公开课

情绪真能让健康人"伤心至死"?

英国法庭驳回索尼PlayStation数字内容集体诉讼

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版