网易首页 > 网易号 > 正文 申请入驻

AI治理的权责落差:头衔为何无法解决问责难题

0
分享至


人工智能治理领域正出现一种奇特的分裂:决策权似乎在向高层集中,而日常治理AI的责任却在企业内部不断扩散。

这会带来实质性问题:有责无权让员工无从行动,有权无责则让高管脱离了完整的问责链条。最终,这种日益扩大的落差可能使AI治理状况比以前更糟——尽管大多数组织已经设立了多个关键AI职位,这一局面依然存在。

例如,IBM的2026年CEO调研发现,76%的受访企业设有首席AI官(CAIO),而2025年这一比例仅为26%。首席AI智能体官、首席监管官等其他新提议的头衔也在不断涌现,表明高管层仍在进一步扩张。然而,79%的受访高管表示,随着AI在企业中扮演越来越重要的角色,他们正在分散决策权、分摊责任。拥有头衔并不等于真正承担了责任。

AI治理的角度同样不够清晰。看似明确的首席治理官(CGO)头衔已经投入使用,但不同组织对其含义的理解各不相同。

传统上,CGO职能与公司治理和董事会监督相关,根据美国公司治理协会(Society for Corporate Governance)的调研,84%的受访公司将该职能设置在法务部门或总法律顾问办公室内。而韩国SK电讯则在其AI治理架构中使用CGO这一头衔。这种职责与术语的重叠,可能给组织在建立责任层级时带来更多混乱,而非清晰。

对CIO而言,真正重要的问题并非是谁又获得了一个新头衔,而是谁能让这些日益分散的管控机制协同运作起来。

真正的权力在系统之中

这一新局面带来的挑战之一是:智能体AI需要一套完全不同的治理方式。书面的AI政策能够确立预期,但无法独立阻止某个智能体访问受限信息或执行未经授权的交易。

为应对这些需求,通过对多位CIO、CTO和治理专家的采访,一个新趋势浮现:AI治理正从政策文件和委员会,转移到执行决策的运营系统之中。

"在大多数企业中,AI治理存在于两个几乎互不沟通的地方:一份由委员会掌管的政策PDF文件,以及由完成系统集成的人配置的一套OAuth授权范围、服务账户和API密钥,"一家美国大型媒体、电信、娱乐与科技企业的网络安全工程师Bapuji Koraganti表示。

Koraganti认为,真正具有实质后果的"批准",往往发生在有人授予凭证的那一刻,而非治理委员会批准部署的那一刻。

这种安排在更受控的系统中或许可行,但AI智能体让情况变得复杂,因为它们可以跨应用程序运行、访问敏感信息,并在无需反复人工干预的情况下发起交易。

身份治理提供商Omada的首席创新官Patrick Parker表示,更好的做法是明确区分"授权某个智能体"与"授权某笔特定交易"。例如,一个被允许访问财务系统的智能体,不应因此自动获得更改供应商银行信息或放款的权限。

这类限制必须在动作发生时予以强制执行,而不仅仅是在政策中加以描述。

"企业可以拥有一整套完整的AI政策体系,但治理决策与执行环节之间仍可能缺乏连接,"Parker说。

执行层面的转变正在改变治理在操作层面的含义。相较于依赖一概而论的批准和声明,组织需要的是可执行的权限设置、交易限额、监控机制,以及随时撤销智能体权限的能力。

"敏感操作需要在模型之外、在执行时刻就得到强制授权。凡需要审批的场合,审批必须与实际受益方、金额、目标账户或数据范围严格绑定,"Parker表示。"对一家供应商的付款授权,不能因为涉及同一个智能体和同一工具,就变成对另一家供应商的付款许可。"

保险业与采购环节加大风险砝码

治理正日益成为一个财务与合同层面的考量因素。保险经纪公司Gallagher报告称,部分保险公司正根据投保企业对AI治理相关问题的回答,采用分级定价并调整承保限额。该公司2026年春季商业保险报告还指出,AI风险管理准备工作的不足,已开始影响保费定价。

这并不意味着AI治理薄弱会导致统一的保费上浮。各家保险公司的做法不尽相同,整体网络保险的定价趋势也可能与针对具体AI相关风险的处理方式有所区别。尽管如此,这一趋势为企业提供了动力,促使其证明治理管控措施确实存在并有效运作。

然而,CIO必须谨慎,不要假设更强的AI治理会自动带来更低的保费。保险公司在定价时会评估具体的风险敞口、保单条款和承保限制。

"就像要求采用多因素认证一样,保险公司也开始关注AI防护措施是否真正落地,而不仅仅是一份声明。这包括证明组织在AI智能体或AI驱动的攻击造成损害后能够恢复数据和系统,正如保险公司在勒索软件兴起期间开始要求提供经过测试的备份证明一样,"网络弹性提供商Druva负责生成式AI产品的副总裁David Gildea表示。

采购和法务部门同样面临压力,需要通过供应商合同这一机制来落实治理策略。安全服务公司Guidepost Solutions高级常务董事、副总法律顾问兼首席隐私官Allison Spagnolo指出,数据使用条款、审计权、责任分配,以及针对AI能力变化的合同保护条款,都是供应商合同中需要重新关注的敏感问题,以避免企业承担不应有的风险。

与此同时,托管服务提供商Ensono的CIO Savio Lobo认为,AI供应商协议应被视为企业风险管理的一部分,而非孤立的技术采购行为。他表示,采购部门负责商业谈判,法务部门制定合同条款,安全与隐私部门界定风险要求,技术或业务负责人则决定剩余风险是否可以接受。

但仅靠合同限制无法阻止AI系统执行未经授权的操作。企业必须将这些合同义务与技术管控及运营监督连接起来。

"关键在于,AI供应商审查不能与第三方风险管理脱节、自成一体。它需要增加针对AI的专门问题,但应当融入企业现有的管控体系之中,"Lobo补充道。

高管权责问题

随着治理工作融入越来越多的业务职能,其组织归属也变得愈发难以界定。但显然,必须有人来统筹负责。

在Ensono,Lobo与一位CTO和一位CAIO共同协作。他们的合作方式展示了企业如何在不将每项决策都集中到某一位高管手中的情况下,在领导层之间协调AI治理工作。

CAIO在CIO和CTO的协助下,制定战略、标准和采用优先级。但特权访问、合同责任和业务流程自动化方面,仍由负责相应具体领域的高管掌握决定权。

"为每一个新出现的问题设立新的C级头衔,不太可能解决AI治理问题,"Lobo表示,这也不会取代现有的问责分工。

在缺乏这种清晰架构的公司中,随着AI决策下沉到各个业务单元,日益细化的职责分工带来的后果会更加严重。某业务负责人可能批准了一个自动化工作流,但权限由安全部门掌控,运行环境由技术部门管理,合同义务则由法务部门决定。没有哪一方天然对其他各方拥有管辖权——由此产生的"最终问责主体缺位"的真空状态,可能是难以维持的。

AI治理平台Monitaur的CEO兼联合创始人Anthony Habayeb认为,企业的最终问责归属应在CEO和董事会,由他们确立组织的风险偏好。

"能否由一位高管为整个公司的AI问责负责?不能。能否由CAIO来统筹协调,再由风险和审计部门核实?可以,"Habayeb表示。

"正确的架构最终应该是:一位负责任的业务高管做出'是'或'否'的决定,而这一决定建立在分布于技术、风险、安全等各领域的专家所完成的基础工作之上,这些专家各自承担着执行关键治理管控的职责,"Habayeb解释道。

挑战在于如何协调各方决策,同时不让决策权归属和责任归属变得模糊不清。

另设治理头衔的替代方案是什么?

一个正在浮现的答案是:引入一套通用的治理运营模式,而不是再设一个高管职位。

决策智能平台RelationalAI战略合作副总裁Tom Jenkins表示,虽然目前还不存在单一的AI治理运营模式,但他观察到一种日益普遍的联邦式方法正在兴起——即标准由中央统一制定,而各业务单元仍对自身的结果承担责任。

"这在组织层面是合理的,但也带来了一个技术挑战:如何确保相同的政策、业务规则和约束条件,在不同的应用程序和智能体之间保持一致?"Jenkins说。

跨应用程序、数据环境和AI智能体实现一致的执行是必要的。Jenkins表示,他看到CIO或首席数据与AI官的角色正日益承担起建立通用架构的职责,从而让分布式治理变得可管理。

Lobo主张采用统一的控制平面,涵盖AI资产清单、风险分级、指定责任人、身份标准、监控机制和运营证据。"然后各个具体职能部门就可以在这些边界范围内进行创新,"他说。

与统计已批准的政策数量或治理会议次数相比,CIO更应该关注的是:有多少AI系统拥有明确的责任人、符合访问权限要求,并能够证明相关管控措施确实在发挥作用。

Parker提出了另一个衡量指标:治理延迟,即从做出授权或撤权决定,到该决定在生产系统中真正生效之间所经过的时间。这类指标能够揭示治理究竟只是停留在组织层面的职责分配上,还是真正在控制AI的行为。

AI治理的下一阶段可能还会催生更多的高管头衔。具体的高管架构安排也会因企业而异:有些企业会扩大CAIO的职责范围;另一些则会将协调工作交给CIO,或通过现有的技术和风险领导团队分散权力。无论如何,企业都会倾向于通过更新组织层级结构来确立权责归属。

但如果新设立的职位没有配套的预算、决策权和解决冲突所需的运营权力,那么它只会给本已碎片化的审批流程再添一位参与者。

相反,领导层应将目光转向一个已经在发生、且更为关键的趋势:治理正在变成一种运营层面的学科。而企业必须明确,由谁来确保这众多运转部件能够协同一致地运作下去。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

王老师你还好吗
2026-11-21 13:43:36
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
记者:蒋光太是最成功的归化球员,即使伤病增多也未曾离开

记者:蒋光太是最成功的归化球员,即使伤病增多也未曾离开

懂球帝
2026-11-22 14:44:20
“被你这种女人缠上真倒霉”,初中学历倒追川大博士,网友:简直是骚扰

“被你这种女人缠上真倒霉”,初中学历倒追川大博士,网友:简直是骚扰

泽泽先生
2026-11-21 16:05:42
我和妻子AA制30年,月收入全给我姐,直到我心梗进了ICU才明白

我和妻子AA制30年,月收入全给我姐,直到我心梗进了ICU才明白

千秋历史
2026-05-13 19:55:29
又爆单了!山姆突然卖断货?这个冬日你拥有一件加拿大鹅了吗?

又爆单了!山姆突然卖断货?这个冬日你拥有一件加拿大鹅了吗?

栋察楼市
2026-11-21 08:05:54
金价大势已定:不出意外,金价或重回2024年水平,要有心理准备

金价大势已定:不出意外,金价或重回2024年水平,要有心理准备

点燃好奇心
2026-11-21 18:53:27
哈佛大学30年研究发现:长期不快乐的人,请立即去做这三件事

哈佛大学30年研究发现:长期不快乐的人,请立即去做这三件事

笑谈文史
2026-10-16 19:53:10
多所高校通知:工资改发数字人民币

多所高校通知:工资改发数字人民币

麦可思研究
2026-11-22 08:43:36
徽剑案目前有5人出狱!1人还剩14天出狱,还有三人4—6个月出狱,网友发帖引发轩然大波

徽剑案目前有5人出狱!1人还剩14天出狱,还有三人4—6个月出狱,网友发帖引发轩然大波

火山詩话
2026-11-01 06:32:55
特朗普表示,“亚洲行没有见到金正恩”,为何朝鲜不是APEC成员?

特朗普表示,“亚洲行没有见到金正恩”,为何朝鲜不是APEC成员?

世界纵横说
2026-11-22 13:48:16
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

麓谷隐士
2026-11-22 00:05:04
要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

磊子讲史
2026-11-17 12:10:42
宠妻狂魔啊!广东女子晒丈夫工资截图,工资10506.04元,他只留1000元,其余转给两地分居的妻子,引发争议

宠妻狂魔啊!广东女子晒丈夫工资截图,工资10506.04元,他只留1000元,其余转给两地分居的妻子,引发争议

火山詩话
2026-11-06 09:10:38
交过57年公粮的农民,该还债了

交过57年公粮的农民,该还债了

爱下厨的阿椅
2026-11-22 05:48:04
我57岁,突然发现一个残忍真相:极度自律,每天锻炼的人,不一定能长寿,但是,极度自私,不为任何人、任何事操心的人很可能长寿

我57岁,突然发现一个残忍真相:极度自律,每天锻炼的人,不一定能长寿,但是,极度自私,不为任何人、任何事操心的人很可能长寿

犀利辣椒
2026-10-21 06:21:56
下周三只新股申购:光模块领域“小巨人”领衔

下周三只新股申购:光模块领域“小巨人”领衔

财联社
2026-11-22 16:00:12
CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

篮球资讯达人
2026-11-22 12:07:09
芬兰湾击中俄军货轮:乌克兰为叙利亚死难者们报仇了!

芬兰湾击中俄军货轮:乌克兰为叙利亚死难者们报仇了!

鹰眼Defence
2026-11-22 16:46:44
2026-11-22 19:48:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23594文章数 49740关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

健康
亲子
家居
旅游
时尚

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

幼儿园开学萌娃状态,哈哈哈太真实了,这看着又好笑又心疼!

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

山西临汾洪洞:一树藏千年文脉,一域系万家根魂

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

无障碍浏览 进入关怀版