【对话】Gartner研究总监闫斌：生成式人工智能在企业中的应用

#参与2024财资奖评选，点击了解详情

作者：董兴荣 姚顺意

生成式人工智能在企业中的一些领域已经得到广泛应用，包括内容生成、对话式用户界面（UI）和知识挖掘等，但是在企业管理的更高阶场景中，如预测、规划和决策等方面的适用性较低。企业在推进数智化升级的过程中面临诸多挑战，如智能技术的可靠性和可解释性问题，以及生成式人工智能的输出结果中存在的偏见问题。企业需要以产品化思维，不断调整和迭代数智化升级规划，综合运用各类智能技术，方能实现智能化升级。

过去一年，生成式人工智能（GenAI）的采用率爆炸式增长。2023年Gartner企业机构AI调研发现，生成式人工智能是受访企业部署最广泛的AI技术之一。企业机构在多个业务部门的多种用例中部署了生成式人工智能。尽管这一快速部署前景广阔，但也带来了由于过度聚焦生成式人工智能而导致AI领域其他应用被忽视的风险。

Gartner研究总监闫斌认为，生成式人工智能仅占AI版图的一小部分。在企业智能化升级的过程中，需要做好智能化升级的顶层设计，以产品化思维不断调整和迭代数智化升级规划，考虑生成式人工智能与其他智能技术的配合，提升员工的AI素养，方能实现智能化升级。

人物介绍PROFILE

闫斌

Gartner研究总监

01

智能技术应用推进企业数智化升级

在数字化浪潮的推动下，企业正面临前所未有的转型机遇。智能技术的应用，尤其是生成式人工智能的崛起，正成为企业数智化升级的关键推动力。

智能技术的核心在于其能够处理和分析大量数据，从而为企业提供洞察力和决策支持生成式人工智能，作为智能技术的前沿代表已经在内容生成、对话式用户界面和知识发现等领域展现出了巨大潜力（图1）。

图1 AI技术热图

场景一：内容生成。企业可以将生成式人工智能用于文档的生成、检查文档合规性。比如，监管部门使用大语言模型去审查企业提交的文档。借助智能技术，可以快速地处理非结构化数据，提高工作效率。

场景二：对话式UI。生成式人工智能中令人惊艳的产品是ChatGPT，它可以基于多轮对话，不断了解用户真正的意图，修正和迭代生成的文档，从而帮助用户解决问题。对话式UI对内可以成为企业内部的虚拟助手，为员工提供帮助，对外可以成为智能客服，用基于生成式人工智能的聊天机器人代替人工客服，企业能够提供更加人性化的客户服务，增强用户体验。

场景三：知识挖掘。对于企业而言，除了标准的存储于数据库中的数据外，还存在大量非结构化数据，包括文字、图片、声音等。以前这些数据对于企业而言像是一个黑洞，难以利用。而借助生成式人工智能，可以以提问的形式获取过往的数据信息，以提问代替搜索，更智能地获取知识，帮助企业从海量非结构化数据中提取出有价值的信息，为决策提供支持。

尽管在上述领域生成式人工智能的应用已经趋于成熟，但是在企业管理的更高阶场景中，如预测/预报、规划、决策等，生成式人工智能的适用性较低。究其原因，闫斌总结了以下几点。

第一，生成式人工智能基于的大语言模型并不是为了预测、决策等场景而开发。当前，大语言模型的本质是把互联网上可以收集到的数据和企业自身收集的数据、购买的数据汇聚到一起而训练出的模型。从理论上可以把这个模型理解为对于训练数据的有损压缩。开发这一模型的初衷并不是为了做预测性的工作，而是与人进行对话，并根据已有的数据生成结果。

第二，生成式人工智能所能做的预测非常简单，有更好的工具可以替代。生成式人工智能可以根据前几个月的数据，对下一个月的数据进行预测，但这是一种非常简单的预测，这种预测的工作模型与使用Excel做一个回归预测模型区别不大。并且，预测结果的准确度高低取决于该事项是否与历史数据有极强的关联性。同时，对于生成式人工智能给出预测结果的可解释性，人们的了解是非常少的。

一般情况下，如果需要进行相对比较简单的预测，闫斌建议使用传统意义上的机器学习模型，对不同数据进行甄别之后构建出一个机器学习的预测模型，再预测下一个时间点将会发生的事情。这个模型由企业自己构建，企业知道整个构建的过程，因此，其给出的结果也相对更具有可解释性。这样才能更好地帮助企业将预测应用到实践。

另一种情况，如果需要预测相对比较复杂的问题，比如预测某支股票股价会发生什么变化，甚至预测房价，或者预测一些经济指标，这时，我们的确可以使用一些大模型，但是因为现实世界是极其复杂的，这其中的不确定性非常多，所以我们用大模型预测的可靠性非常低。针对复杂问题的预测是整个业界的难题。虽然有一些科研机构、公司在最前沿探索，把很多的时间序列的数据喂给Transformer（大语言模型的基础架构），把历史的各个时间点的、各个因素的数据都整理收集好，通过Transformer的架构输出下一个时间点可能发生的情况，但是现在这种方式还是处于探索阶段，因为影响这个世界或影响复杂问题的预测的因素太多，技术人员收集数据、构建模型的挑战都非常大。

第三，针对决策领域，生成式人工智能可以承担辅助性的工作，但是最终决策还是需要依靠人来完成。在决策过程中，AI可以起到的作用分为四类：告知人们发生了什么，即说明性分析：分析为什么发生，即诊断性分析；之后有可能发生什么，即预测性分析；下一步应该怎么做，即指示性分析。

对于上述作用，大语言模型可以做一些辅助的工作。从核心来讲，大语言模型还是基于历史数据，它的知识来自互联网或者人们给它提供的上下文，但是它本身并不是一个很好的预测引擎。因此，它给出的指示性分析也是机械的，即通过分析来自互联网的知识，将出现概率最高的场景作为建议输出。

这些建议的确可以给人们提供一些思路，但实际上关于指示性分析，还是有一些其他的AI算法作用更大，比如optimization solver（优化求解器）就可以根据当前的情况相对比较准确地算出一个最优解。这种方式相对来讲是更好的或者更可靠的决策过程。

此外，决策过程存在不同的颗粒度，即从简单的决策到高级的决策，这个过程中影响决策的并不完全是技术问题，更多时候还是取决于企业的决策者愿不愿意把整个决策过程透明化。在人脑中构建的决策模型有些时候并不能够完全显性地表达出来，所以AI在非常高级的复杂的决策过程中，还只能是辅助性角色。

02

企业智能化升级面临的挑战及建议

闫斌介绍，当前不同企业数智化升级的差异比较大，相对而言金融行业的企业在数智化升级方面比较领先。总结来看，企业的智能升级可以分为四个步骤或阶段：第一步，数字化转型；第二步，数据积累；第三步，BI（商业智能）应用；第四步，AI应用。基于数字化转型，企业积累更多数据，接着借助BI技术应用，对数据进行分析，再更进一步借助AI应用，更好地提高自动化和智能化的水平。

尽管智能技术带来了巨大的机遇，但在推进企业数智化升级的过程中，也面临一系列挑战。首先，智能技术的可靠性和可解释性问题限制了其在预测和决策等关键领域的应用。生成式人工智能虽然能够生成看似合理的输出，但因“幻觉”问题和缺乏透明度使得其在需要高度可靠性的场景中难以立足。其次，生成式人工智能的输出结果中不可避免地存在一些偏见，而偏见形成的原因不可追溯，导致其输出结果不是百分之百可靠。最后，智能技术的工程化封装和应用层软件的成熟度不足，增加了企业采用智能技术的门槛和成本。

为了克服这些挑战，企业需要采取一系列策略来推进数智化升级。

首先，企业应加强数字化转型和数据治理，为智能技术的应用打下坚实的基础。这意味着企业需要对现有的信息系统进行现代化改造，确保数据的流动性和可访问性。例如，通过云计算技术，企业可以实现数据的集中存储和处理，打破数据孤岛，提高数据利用率。此外，企业还需要建立起完善的数据治理体系涉及数据质量控制、数据安全保护和数据隐私保护等方面。通过数据治理，企业可以确保数据的准确性、完整性和一致性，为智能技术的应用提供可靠的数据支持。

其次，企业应提升员工的AI素养（AIliteracy），使员工能够有效地利用智能技术，并理解其局限性。在之前企业数字化转型阶段，人们通常强调员工的数据素养（dataliteracy），现在则需要开始培养AI素养。很多先进企业的技术团队对AI的热情并不低，但是其他业务部门的AI素养还有待提高。AI能量能发挥多少，还是取决于使用AI应用的人的能力。因此，企业的业务人员需要加强AI素养的培养，了解和掌握AI知识，尤其是AI的长处、短板。

再次，企业应探索复合式AI的应用，通过结合不同的AI技术，提高决策的准确性和可靠性。智能技术往往可以结合使用，构成更为强大的整体系统。一方面，与更稳定可靠的技术相结合，有助于应对生成式人工智能模型的一些局限性一一缺乏鲁棒性、信息不准确和产生幻觉等。另一方面，生成式人工智能模型可以成为成熟技术的额外补充。它发挥作用的普遍方式是作为与其他AI/软件系统的自然语言接口。与此类似，生成式人工智能可用于开发之后可在非生成式机器学习模型中使用的功能。在企业的实际应用中，可以从应用场景来对智能技术进行组合。例如，预测（optimization）+规划（planning），先预测销售额，再进行生产、物流等的排期和规划。又如，用户画像+智能推荐，先对消费者数据进行分析，再根据客户的个性化需求进行产品的推荐。

最后，企业应关注行业大模型的发展，结合自身业务特点，探索适合的智能技术应用路径。企业可以结合自身业务，借助智能技术，铸就业务的护城河。比如金融领域的风险模型，是很多金融企业的核心竞争力，这些风险模型与智能技术结合，很可能发挥出更大的效用，帮助企业在市场竞争中取得优势。但是，如果企业的数据基础没有搭建好，而期望智能技术的应用能够带来翻天覆地的变化则是不现实的。

闫斌总结，对于企业而言，智能升级需要有完善的顶层设计，以数据治理为基础，结合自身业务，脚踏实地地计划和实施。企业的智能升级不是一个“项目”，而是一个“产品”，需要以产品思维不断调整和优化计划，在升级过程中平衡业务的需求和当前技术的可能性。

03

AI厂商的现状以及提供的解决方案

智能技术的应用是企业数智化升级的关键。虽然面临诸多挑战，但通过采取有效的策略，企业可以充分利用智能技术的潜力，实现业务的创新和效率的提升。而当前厂商提供的生成式人工智能应用广泛分布在不同的服务层级（图2）。

图2 生成式人工智能技术全景图

最底层是提供生成式人工智能的基础架构（infrastructure），往上是生成式人工智能模型服务。如果将企业的智能升级比喻为造一辆车，智能技术的模型仅仅是车的引擎，企业还需要做很多事情，比如工程化工作。因此，厂商为企业提供生成式人工智能工程工具，可以帮助企业更好地使用生成式人工智能模型。最上层是类似于封装好的整车——生成式人工智能应用程序。

绝大多数生成式人工智能厂商都会提供自己的模型以及往上的工具和应用程序。国内的人工智能模型市场竞争非常激烈，有各种各样的模型，而且存在价格的竞争。同时，很多企业也在运用国外的厂商所提供的工具。整体而言，当前生成式人工智能应用的成熟度还不是很高，处于不断打磨、不断完善的过程中。

对于厂商而言，它从提供模型、提供工具到提供服务，实际上是不断地将模型一层一层封装到应用程序，是一个不断完善的状态。而对于企业而言，从基础架构到应用程序，使用门槛是不断降低的过程。

未来，随着技术的不断进步和应用场景的不断拓展，智能技术将在企业数智化升级的道路上发挥越来越重要的作用。

2024年，国企、央企财务数智化转型开始进入一下阶段。 企业需要以财资管理和司库管理为抓手，提升财务管理标准化、集约化、精益化和智能化水平，实现高质量发展稳步推进。 值此契机，财资中国面向企业、银行、保险等金融机构、科技公司等财资生态伙伴发起2024财资奖评选活动 ！

专题推荐

「跨境资金与外汇风险管理」

国药集团中国能建 中国化学 朝云集团

「风险管理」

司库风险管理 金控公司风险管理 公司银行风险管理 第三方风险管理

「财资管理」

管理办法新规解读 交投集团财务公司 鞍钢财务公司 国家能源集团财务公司 格力财务公司 光明财务公司

「司库实践」

中国联通 国家电投 国家电网 宝钢工程