红帽的下一步，解锁开源AI的无限可能

作者：王聪彬

“双十一”是一个非常有意义的日子，它既是全民狂欢的购物节，也是红帽的生日。今年是红帽进入中国的第20年，对于红帽而言这是一个重要的里程碑。

过去20年间，开源技术在中国从无到有，从小到大，逐渐成为软件行业发展的重要基石。红帽的成长同样受益于生态系统的日益丰满，客户信任红帽，正是因为其技术能够被更多厂商广泛适配。

今年红帽中国依旧创下了双位数的增长，这也源于越来越多的企业接受开源技术，认识到开源的优势。虽已身披荣耀，但仍需大步向前，红帽全球副总裁兼大中华区总裁曹衡康在今年的红帽论坛上强调，我们的下一步是，解锁开源AI的无限可能。

红帽全球副总裁兼大中华区总裁曹衡康

以开源的方法将AI带入企业

过去两年全球都在积极投入AI基础设施的建设，几个月前美国科技巨头股价集体下跌，引发了投资者对AI产业泡沫的广泛讨论，如此高昂的投入却未见成效。

许多企业都在尝试使用大模型，但在生产场景即便是小问题也可能引发巨大风险，因此多数企业仍在探索如何有效启动AI应用。

IDC全球研究数据显示，2024年在AI相关开发、数据和基础设施投资分配中，预测性AI占34%、GenAI占34%、解释性AI占32%。

2024年红帽推出了全栈AI产品与解决方案，希望通过Linux AI（RHEL AI）和OpenShift AI，协助企业可以快速进入到AI世界，这既是初衷也是目标。

基于目前企业应用模型的趋势，红帽提出了利用小模型，即专属模型，更稳定、安全地实现企业的特定需求。通过与IBM合作发起了围绕大规模对话机器人对齐方法和IBM开源Granite模型的开源社区项目InstructLab。

此外，红帽还推出模型对齐工具，通过使用合成数据大幅减少对真实数据的需求，使数据量降低至原来的千分之一。这种方式不仅降低了算力成本，还大幅减少能耗，可以适应多种部署环境，可运行在本地数据中心、公有云、混合云和边缘设备上。

而且红帽引入了“开放实验室”概念，与客户的顾问团队合作，共同探索企业在研发、生产、市场营销和客户支持等环节中最具效能的生成式AI应用场景，从小应用的成功起步，逐步扩展到更广大的场景。

从实验到落地，企业AI应用三步曲

在生成式AI时代，企业更加希望在了解其成本和收益后，再决定项目的可行性。红帽则提出了“分步实施”的策略，尝试三步走构建企业AI应用。

第一步，在最小资源配置下试用开源模型和工具，比如在桌面环境下，在笔记本或工作站上，采用小数据集进行实验性训练。Podman Desktop工具为本地进行模型微调的开发者提供了桌面客户端，InstructLab可以帮助模型训练人员以较低成本实现模型对齐。

第二步，通过更多算力进行扩展，红帽平台几乎可以运行在任何环境中，企业可以通过完整的合成数据生成技术进行生产级模型训练。红帽企业级Linux AI平台能够无缝开发、测试和运行适用于企业级应用的Granite模型。

第三步，在更大的分布式集群环境下进行生产级模型训练，OpenShift AI支持数据的获取和准备、模型的训练和微调、模型供应、模型监控及硬件加速。

红帽也积极在中国落地这一方法，首先通过市场渠道推广AI的独特功能和优势；其次赋能合作伙伴；最后通过开放实验室，与客户共同探索AI在实际场景中的应用。当客户确定适合的应用场景后，再推动产品的全面导入。

曹衡康认为，一个新技术要进入市场，最快的方式就是找到成功的应用案例并加以推广。

尽管红帽的AI产品自美国发布至今仅5个月，已有多个客户开始复制该成功经验。红帽大中华区解决方案架构部高级总监王慧慧介绍，中国已有一家保险公司引入红帽的AI产品，加速代码审查和合并请求的处理。此前，旧工具准确率不足95%，在生产环境中的效果大打折扣。引入红帽新AI工具后，代码审查和合并的准确率显著提升，大大提高了效率。

“过去，我们通常学习国外的成功案例，而这次中国本地更快开发出了应用。”曹衡康非常自豪，因为这是亚太区第一个成功投入生产环境的AI应用。