AI风险与价值失衡，CIO面临两难抉择

奥兰多，佛罗里达州——周一，在Gartner IT Symposium/Xpo开幕主题演讲中，分析师表示，所有企业技术高管都面临着同样昂贵的权衡难题——在AI风险与其业务价值之间进行取舍。

著名分析师Kristin Moyer和Daryl Plummer告诉与会者，目前天平已经失衡，86%的CIO认为风险增长速度超过了价值增长速度。

风险与代价从未如此之高。根据Gartner的研究，科技领导者在AI上的支出是两年前的18倍。随着AI自主性的增强，他们也在应对日益严峻的安全担忧。

"谈到AI，脑海中会浮现出上千个问题。从'AI能帮助我们活到150岁吗？'到'它会在未来10年内把我们都杀死吗？'"Moyer说。"这就像你同时在脑海中持有两个相互矛盾的想法。"

尽管在IT转型中风险不可避免，但CIO需要让风险与技术创造的价值保持一致，才能从投资中获得最大收益。分析师表示，他们还应在组织内建立共享的决策框架。

投资回报率正在滞后，Gartner数据显示，目前只有五分之一的AI项目取得成功，这一比例与去年持平。根据Gartner的研究，近60%的高管表示他们的AI项目获得了正向投资回报，但其中成功的项目才是推动组织AI价值增长的主力。

过去一年中，AI应用场景增加了400%，但Plummer表示，CIO应该追求的是价值而非数量。CIO应频繁审查其应用场景，并对技术在组织中部署的方式和时机持更加审慎的态度。

急于满足日益增长服务需求的AI厂商，预计到2030年将在AI基础设施上投入近7万亿美元。他们将产品宣传为提升生产力和效率的利器，但Plummer表示，只有16%的企业报告了生产力的实际提升。

"厂商希望你在各处都使用AI智能体，他们希望为自己的产品制造势头，或者只是让你购买更多Token，"Plummer说。"厂商要的不是帮你实现价值变现或获得回报，而是让他们自己的收益增长。"

许多组织在简单的搜索或查询就足够的情况下，仍在使用并为AI工具付费。

约有四成员工表示，他们在过去一个月中收到过AI生成的劣质内容，即低质量输出，每次处理这类问题都需要花费近两个小时来清理。Moyer表示，对于一家平均规模的财富500强企业而言，这项成本每年约为5200万美元。

Plummer建议CIO不要增加新的应用场景，而是扩大已有的成功案例的规模。

"停止粗放式的消费，开始以结果为导向的开发，"他说。"在削减投资之前，必须先减少浪费，并将资金投向最能产生效果的地方。"

在审查AI应用场景的同时，CIO和高管团队需要对所部署的技术获得控制权和治理权。根据最近的一项调查，只有21%的CIO已为智能体AI建立了治理机制，但71%的CIO计划在今年内部署相关治理措施。

影子AI和暗AI——即任何造成伤害的AI使用行为，无论是有意还是无意——在企业中依然普遍存在。随着技术自主性的提升，风险也在持续增加，许多CIO并不完全了解其组织内智能体的使用范围或访问权限。

许多行业领导者现在呼吁在全球范围内统一护栏标准。Moyer表示，这种统一在全球层面难以实现，但企业可以在组织内部采取类似的做法，建立统一的治理机制。

过去，大多数技术都有清晰可见的责任追溯链条，但对于AI而言，大多数伤害往往要等到发生之后才会被察觉。Plummer表示，CIO应努力建立明确的流程和安全审查机制，并强化围绕AI使用的各项管控措施。

目前业界对于AI的明确所有权归属模式尚未达成共识，但CIO们表示自己对管理技术产出的结果感到有切身责任。Plummer表示，治理工作应该由CIO和CFO共同负责，并定期与首席信息安全官、法务团队等进行磋商。

CIO可以从几个方面着手启动这一进程，包括投资建设AI网关，将请求路由到最适合测试的模型或平台。他们还应明确组织内平台、工具和模型的归属责任人。

最后，Moyer表示，CIO应该"永远"重新审视其安全流程的稳定性。

"如果不对安全策略进行深入审查和审计，那就是自找麻烦，"她补充道。

Q&A

Q1：为什么CIO认为AI风险增长快于价值？

A：根据Gartner调查，86%的CIO认为风险增长速度超过了价值增长速度，同时科技领导者在AI上的支出是两年前的18倍，但只有五分之一的AI项目目前取得成功，投资回报率明显滞后。

Q2：企业在AI投入上浪费了多少成本？

A：约四成员工表示每月都会收到AI生成的低质量内容，每次清理需耗时近两小时。对于一家平均规模的财富500强企业而言，这项成本每年约为5200万美元。

Q3：CIO应该如何管理AI风险？

A：CIO应审计现有AI应用场景，扩大已成功的案例而非盲目增加新场景，建立明确的治理框架、安全审查流程，并明确平台、工具和模型的归属责任人，同时持续审视安全流程的稳定性。