CIO如何跨越AI治理的鸿沟

企业目前仍在摸索，如何治理正在快速融入其技术栈的AI。在跟上技术发展步伐的同时实施有效治理，是对CIO职业生涯具有决定性意义的挑战，尤其是当企业还必须清理AI生成内容所带来的问题时。

"那些代码是否真的进入了我们正在运行的产品或应用程序？如果是的话，它的质量是否足够好——还是说我们最终需要去修复我们自己引入的bug？"AI决策与工作流自动化平台Pegasystems的CIO大卫·维多尼这样问道。

AI部署的速度正在制造一个治理团队难以跟上的鸿沟。机器学习与AI平台Dataiku对685位企业CIO进行了调查，84%的受访者表示，员工创建AI智能体和应用程序的速度已经超过了IT部门的治理能力。

此外，根据AI治理平台OneTrust对1200名业务决策者的调查，只有不到一半（47%）的受访机构拥有明确的治理控制机制。

当CIO们在应对治理缺口的同时，外界对新AI项目产出可衡量成果的期望也在不断上升。在Dataiku调查的CIO中，超过四分之三（76%）的人认为，如果公司在明年年底前无法展示出AI带来的可衡量效益，他们的职位将面临风险。

时间紧迫，而治理上的缺口正威胁着AI商业价值的实现。

企业仍在摸索财务治理

AI治理中的财务部分对CIO而言是一项相当大的挑战。根据Dataiku的报告，只有21%的CIO能够全面掌握不同用例和业务部门中AI智能体和AI工作负载的成本情况。

"我担心的是财务控制和监督问题：掌握谁在花钱、花在什么上面，"维多尼说。出于这种担忧，他也表达了希望设置限制，以避免出现失控的支出行为。

但弄清成本只是财务治理的一部分。企业还必须着眼于削减过度支出，并整合那些可能出现的重复或冗余领域——而这种情况在缺乏足够监督的情况下很容易发生。尤其是，如果没有一个集中的资源库来管理员工正在开发的AI工具和技能，支出就可能失控。

"人们在反复重复创造相同的技能，"网络安全公司Netskope的首席数字与信息官迈克·安德森说。

财务治理的缺失会放大成本和工作量，从而侵蚀CIO们希望通过AI实现的潜在价值。

数据质量治理仍在摸索中

AI放大了在大语言模型、小语言模型和智能体出现之前就已存在的数据治理挑战，而现有数据的质量对这些工具的有效性起着至关重要的作用。

"如果你没有妥善地整理这些数据，它有时可能会引用过时或错误的信息。而你给它的数据越多，它出现幻觉的可能性就越高，"维多尼说。

他和团队正在启动一项工作，对"所有已知、经批准和推荐使用的数据来源"进行盘点，维多尼透露道。

但即便是这样主动的盘点工作，也会因数据的持续流入而变得复杂。安德森表示，更复杂的是，不仅文档，连应用程序本身也会产生AI生成的垃圾内容（AI slop）。

"数据卫生不仅关乎已有的数据，也关乎人们正在创造的数据，"安德森说。

AI的有效实施和扩展，取决于能够确保底层数据质量的治理机制。根据OneTrust的调查，超过一半（52%）的业务领导者将数据质量、访问权限、隐私或安全问题列为延缓AI推出和扩展的首要因素。

影子AI使治理更加复杂

休斯顿卫理公会医院执行副总裁兼首席创新官罗伯塔·施瓦茨，面临着所有企业IT领导者都熟悉的治理挑战：技术栈中产品数量庞大。这其中既包括内部开发的AI，也包括第三方供应商提供的AI。

"我们购买或使用的所有东西，升级包里都带有某种程度的算法，"她对InformationWeek表示。"很难找到一个不包含所谓AI的设备了。"

要治理这些技术，就需要清楚AI在哪里被使用、它在访问什么数据、如何使用这些数据，以及它是否存储了任何数据。

企业现有的第三方风险管理框架和政策可以调整后用于应对AI相关问题。"每当我们发现某个供应商存在网络安全风险……我们就会将其锁定，或者返回给他们说，'这是我们需要你做的事情'，"施瓦茨说。

但随之而来的还有影子AI的问题。渴望尝试和利用AI的员工，正在自行搭建智能体和使用工具，这种行为有时违反了治理政策，有时则是因为相关控制机制根本不存在。

"我们不能让情况变成'西部荒野'——有人突然冒出一个想法，架设一个MCP服务器让某个应用程序可以被调用，然后任何人都可以用智能体去访问它，"维多尼说。这可能会导致性能问题、系统不稳定，以及由于访问控制不完善而造成的数据泄露。

找到合适的工具和人才并不容易

企业正处在向规模化AI应用的规范化方式转型的过程中。要实现这一目标，需要叠加合适的运营治理机制。

"在理想情况下，我输入一个提示，就会有某种机制拦截这个提示并说，'让我把你引导到合适的工具去回答这个问题'，并把人安排到正确的位置，"安德森说。"但这样的系统目前还不存在。在它出现之前，一切都要靠教育。"

企业中的人员需要学会如何选择合适的模型，而这种教育是需要时间的。这也是一个持续的过程；更多的模型和工具不断涌现，企业面临着高效使用它们以提升收入的压力。这就需要让人类始终处于决策环节中，以确保AI模型、工具和智能体能够提供准确且无偏见的结果。

随着智能体变得越来越自主，安德森认为，治理机制必须能够识别并防止权限蔓延和行为偏差。企业通常的标准说法是，始终要有人对AI产出的结果承担最终责任。但在实际操作中，如何真正落实问责制，仍是治理体系中相对新兴的一环。

根据Dataiku的调查，三分之二的CIO缺乏信心——如果监管机构要求展示某个AI智能体决策的完整端到端审计记录，他们未必能够提供。而身处决策环节中的人类，其处理速度终究有限。

"我们一个很大的担忧是人类的疲劳问题，因为机器是以机器的速度在运转，"安德森说。"结果就是，人们开始出现'橡皮图章式'审批，只是为了勉强跟上节奏。"

着手应对治理挑战

随着AI的各种需求叠加在原有的传统基础设施之上，优先级排序对治理工作变得愈发重要。管理不断扩大的治理挑战并弥合其中的缺口，需要企业领导层以及整个组织内部的协同合作。

治理委员会往往是这种协作的核心纽带：识别哪些领域需要治理，并制定相应的政策与流程来支撑治理工作。而正是在政策制定与实际执行之间的环节，细小的裂缝有可能逐渐扩大成真正的治理缺口。

"当我们谈到书面政策和培训教育时，它的效果终究取决于使用它的人，"安德森说。"我认为这是我们目前治理工作中最大的薄弱环节。"尽管治理工作本身复杂，但必须以让负责执行政策和流程的人员能够理解的方式去落实。"规则越复杂，就越难被遵守，"施瓦茨说。

例如，员工需要一个简单直接的方式，来报告AI给出错误答案或出现异常行为的情况。"你该向谁报告？"施瓦茨说。"你需要一条简便的途径，而不是让我还得登录到另一台电脑上去处理。"

从长远来看，将会出现更多工具来支持AI治理中的财务、数据质量、隐私、安全和运营等方面的工作。但治理方面的挑战并不会因此消失。

"我长期以来最担心的是……过度依赖AI以及它所给出的答案，"安德森说。"我们必须保持好奇心，[不要]忘记这些年来我们所学到的一切。"

Q&A

Q1：企业在AI治理方面目前面临哪些主要挑战？

A：企业面临的主要挑战包括财务治理缺失、数据质量难以保证、影子AI失控以及缺乏合适的工具和人才，员工创建AI智能体的速度往往超过IT部门的治理能力。

Q2：为什么财务治理对AI管理这么重要？

A：因为只有少数CIO能够全面掌握AI相关支出，缺乏监督会导致重复投入、支出失控，进而侵蚀AI本应带来的商业价值。

Q3：什么是影子AI，为什么它会让治理更复杂？

A：影子AI是指员工在没有经过审批或缺乏统一管控的情况下，自行搭建AI智能体或使用相关工具，这可能引发性能问题、系统不稳定以及数据泄露等风险。