AI治理为更快创新提供护栏保障

随着生成式AI在亚太地区的广泛应用，一些组织，尤其是那些处于非监管行业的组织，可能会因担心繁文缛节会扼杀创新而犹豫是否实施治理框架。

然而，Dataiku公司亚太及日本地区首席数据官Grant Case认为，事实恰恰相反：明确的边界对于提升速度至关重要。

在最近接受Computer Weekly采访时，Case指出，虽然该地区在生成式AI使用方面处于领先地位，但用户对AI输出信任度的下降可能会破坏AI项目。他认为，建立治理护栏有助于弥补信任差距。

然而,Case经常遇到一种误解，即治理会拖慢AI项目进度。"我们看到的情况恰恰相反，"他说。"在这个地区，推进最快的组织恰恰是那些已经建立了强大AI治理立场的组织。"

他将AI治理比作高速公路安全护栏。正如护栏使车辆能够安全地以更高速度行驶一样，治理为快速发展提供了必要的信心。

"要想更快前进，你需要了解边界在哪里，"Case解释道。"那些早期设定这些参数的组织消除了围绕创新的犹豫，因为团队清楚地知道什么是允许的。"

防范影子AI

AI治理的驱动因素之一是影子AI的兴起，即员工使用未经批准的AI工具进行工作。

Case指出，最近的研究发现，77%的安全专业人员观察到员工将企业数据暴露给大语言模型。这种行为很少是恶意的；相反，这是因为缺乏良好的内部工具。

根据Case的说法，员工经常转向外部AI工具，是因为他们缺乏对内部替代方案的无摩擦访问。解决方案不仅仅是禁止外部工具，而是提供集成了必要治理协议的内部选项，他指出。

"我们希望受治理的路径成为快速路径和正确路径，"Case说，这是一家银行客户分享的理念。"如果我们为最终用户建立了正确的基础设施，他们永远不会感到需要走出组织之外。"

虽然AI治理讨论通常源于首席数据官，但这一话题已经提升到公司董事会层面，不仅是由于安全风险，还因为与不受监管的AI实验相关的成本不断攀升。

Case分享了一个涉及客户的例子，其中一个业务部门产生了大量意外成本。该CDO两年前启动了一个300万美元的AI项目，但董事会最近质疑每月成本已达到4.7万美元，却没有明确的投资回报证明。因此，公司的财务和内部审计团队更多地参与到AI治理中，以应对技术和财务风险。

一些公司出于治理和其他原因（如本地化以及对AI模型生命周期有更多控制）开始构建自己的大语言模型。Case建议不要这样做，指出技术变革的快速步伐往往使内部项目在完成之前就已过时。

他引用了一位高级分析官的例子，该官员花了大约六个月时间构建内部大语言模型。在模型完成几个月后，OpenAI的商业更新使他们的专有工作变得效率更低、成本更高。

相反，Case主张采用平台方法，将治理要求（如欧盟AI法案规定的要求）嵌入基础设施中。这使公司能够在保持合规的同时接入最新模型。

"像Dataiku这样的平台的价值在于，我们为您集成最新技术，"Case说。"这使团队能够使用他们现在需要的最佳技术，而不是试图构建可能在六个月内就会过时的东西。"

根据Gartner的数据，全球AI支出预计将在2026年达到2.52万亿美元，同比增长44%。对Dataiku等数据科学和机器学习AI平台的投资也将从2025年的219亿美元增长到2027年的445亿美元。

"AI采用从根本上取决于人力资本和组织流程的准备程度，而不仅仅是财务投资，"Gartner杰出副总裁分析师John-David Lovelock说。"具有更高经验成熟度和自我意识的组织越来越优先考虑已证实的成果，而不是投机性潜力。"

Q&A

Q1：为什么说AI治理能加速而非阻碍创新？

A：AI治理就像高速公路的安全护栏，能让车辆安全地以更高速度行驶。明确的治理边界为快速发展提供了必要的信心，让团队清楚知道什么是允许的，从而消除创新中的犹豫。在亚太地区，推进最快的组织恰恰是那些已经建立了强大AI治理立场的组织。

Q2：什么是影子AI？为什么会出现这种现象？

A：影子AI是指员工使用未经批准的AI工具进行工作。研究发现77%的安全专业人员观察到员工将企业数据暴露给大语言模型。这种行为很少是恶意的，主要是因为员工缺乏对内部AI工具的无摩擦访问，所以转向外部AI工具。解决方案是提供集成了治理协议的内部选项。

Q3：企业应该自建大语言模型还是使用平台服务？

A：专家建议不要自建大语言模型。技术变革的快速步伐往往使内部项目在完成之前就已过时。有案例显示，某公司花六个月构建的内部模型，在完成几个月后就被OpenAI的商业更新超越。更好的方案是采用平台方法，将治理要求嵌入基础设施，在保持合规的同时接入最新模型。