向数智化迈进：浩鲸科技助力运营商大模型工程化落地

浩鲸科技将从大模型技术探索逐步走向工程化落地实践，助力电信运营商加速迈进大模型+智能服务时代。

伴随ChatGPT为代表的生成式AI技术的加速应用，通信大模型几乎同时应运而生。 产业期待，通信大模型的引入，能为通信网络带来前所未有的智能化飞跃，加速推动通信行业迈向更高效、更智能的新阶段。

浩鲸科技相关领导接受了《通信产业报》全媒体记者采访。

当前，运营商大模型落地面临哪些挑战？未来着力点是什么？近日，浩鲸科技以“智能时代，构建数智生产力”为主题参加2024中国移动全球合作伙伴大会。大会期间，浩鲸科技国内产品事业部副总经理刘洪文、浩鲸科技国内政企业务产品线总经理黄敬彬、浩鲸科技国内OSS产品线总经理林仲仁、浩鲸科技数据智能首席专家吴名朝在浩鲸科技展台就以上问题接受《通信产业报》全媒体记者采访。

挑战是什么？

随着“人工智能+”行动的提出，以大模型为代表的AI技术快速爆发，显著推动了电信运营商向数智化迈进。从客户服务到网络运维，AI技术已从早期的散点探索，演变为渗透整个业务场景的全面融合与深度应用，显著提升运营效率，构筑起面向客户、面向一线、面向管理的“AI+服务”体系。

在助推客户数智化转型道路上，浩鲸科技始终致力于大模型技术的前沿探索到实际应用的落地，从理论构想直至实践检验。

然而，大模型远非单纯技术问题，系统也在不断进步与演进，仍有一些长期存在的问题未能得到有效解决，如生硬的交互设计、繁多的报告、知识分散未被有效整合、业务处理易受中断、智能水平提升受限、散点注智难大幅提升自智水平。其落地需多维度的深入工程协作与融合，运营商大模型在场景应用落地方面还存在一些挑战。

刘洪文认为，大模型落地需多维度的深入工程协作与融合。

刘洪文指出，复杂的菜单结构、对精确关键词的依赖及繁琐的输入流程，增加了用户的点击次数，导致使用困惑和效率低下；经营分析、营销方案等仍需人工撰写，耗费大量时间和精力；知识分散在代码、文档、视频中，未被有效整合，简单关键词匹配无法充分释放其价值；业务处理过程中易受中断影响，需跨系统操作才能继续，给用户带来不便；智能化依赖大量人工标注，如标签打标、图片标注等，智能水平提升受限；每个系统在不同的功能模块采取不同的方式进行注智增强，存在多种多样的规则引擎、控制引擎、流程引擎、算法开发等，聚沙难成塔，散点注智难大幅提升自智水平。

刘洪文认为，这些困扰的存在，导致客户体验、经营效率、自智水平的提升遭遇瓶颈，是数智化转型路上的拦路石。在追求大模型先进技术的同时，仍然需要不断审查和改进现有系统，深入挖掘真实同道需求，不为设计而设计，让大模型技术真正发挥作用，能够真正落地解决实际问题。

在助推客户数智化转型道路上，浩鲸科技始终致力于大模型技术的前沿探索到实际应用的落地，从理论构想直至实践检验。在此过程中，浩鲸科技深刻认识到，大模型远非单纯的工程问题，它跨越了众多领域，包括应用场景的设计、用户体验的创新、技术实现的突破、智能基础平台的打造、复杂数据的治理、算力资源的优化配置和高效利用，这一切都需要多维度的深入工程协作与融合。

在运营商领域，大模型应用如何落地？

当前，直接针对通信业运营生产的通信大模型，除了运营商自研向内赋能的通信大模型外，还有通信设备技术供应商所提供的面向运营商运营生产的大模型，为运营商AI+落地提速增效。

黄敬彬表示，当前IT支撑已进入深水区，传统信息化技术手段已经很难快速灵活应对政企业务支撑发展的需要。

在面向运营商政企业务方面，黄敬彬表示，当前IT支撑已进入深水区，传统信息化技术手段已经很难快速灵活应对政企业务支撑发展的需要。数智化时代下，浩鲸科技通过“急用先行、政企+AI”到“生态构建、AI+政企”的两步走策略，不仅为电信运营商带来了前所未有的运营效率与服务质量提升，同时也加快对外产业创新的步伐。浩鲸科技已将大模型技术应用贯穿于政企业务支撑的全链条之中，从智能引导到合同智审，再到智能调度和风险预判等主要环节，每个步骤都得到了显著注智优化。

林仲仁表示，浩鲸科技构建12个智能支撑场景，全面覆盖家宽运营全部岗位的核心工作。

林仲仁指出，特别是面向运营商家宽“装”“维”“整”“系”四大运营流程，浩鲸科技构建12个智能支撑场景，全面覆盖家宽运营全部岗位的核心工作。在大模型加持下的“家宽助手”以受众多先行原则，优先为人数最多的岗位如一线装维、综调支撑岗提供智能支撑能力，特别是在智能问答、智能诊断、智能处置场景中为一线装维人员提供知识问答、快速排查故障、自动派单处置等智能化手段，快速提升家宽运营整体效率。

浩鲸科技未来将和电信行业运营商一起积极构建家宽综调智能体，以“装维整系”业务流为主线，面向家宽支撑主要角色/岗位进行场景规划，聚焦装维智能智能问答、智能诊断、智能处置及智能分析等高价值场景，实现家宽全专业高度自智。

吴名朝表示，鲸智MaaS平台，助力客户快速打造企业专属的行业模型。

吴名朝表示，作为核心平台之一的鲸智MaaS平台，可提供高效算力纳管与智能资源调度、高质量数据供给、高效模型纳管和场景化微调等能力，助力客户快速打造企业专属的行业模型。一方面，高效算力纳管与调度，突破资源利用瓶颈。MaaS平台通过资源池化、vGPU、推理加速和云边协同调度等技术，利用率最高可达97%、调度速度提升25%、整体运维成本最高可降低30%；另一方面，全域高质量数据供给，满足模型更新迭代需求。

MaaS平台通过自动化数据采集、智能化数据处理和编排式语料生成等技术，能够较好的应对模型用数体量大、质量要求高、整理投入多等难题。此外，浩鲸科技推出鲸智智能体开发平台，通过打造智能化知识构建、精准化意图实体和编排式应用构建三点核心能力，帮助企业以更加高效率，高质量的构建智能应用。

据刘洪文介绍，在面对日益复杂的业务场景时，浩鲸科技为此推出了基于大模型的AI原生助手框架——“超级助理”，专为复杂业务系统构建智能助手而设计，核心优势在于其强大的复杂任务拆解能力，同时还支持自我学习、自我配置，甚至自我开发，从而实现智能交互、智能受理、智能推荐和智能运维等多个实用功能。“超级助理”可以提供自然、流畅且个性化的对话体验，部署轻便，低成本，且不需要对现有系统做过多改动就能轻松接入，提供多样化的指令与插件接入方式，使得二次开发变得高效快捷。此外，浩鲸科技利用语音信号处理和识别算法开发“智能工牌助手”，该工具在客户接待、业务处理、安装维护等多种场合应用中表现出色。针对营销推荐、装维服务、业务红线三大核心场景，浩鲸科技已经形成了超过200个经过验证的金牌营销话术库，可直接应用于实际工作中。

林仲仁强调，智能算力需求在AI热潮的推动下也大幅提升，浩鲸科技推出一体化算力服务体系，包括资源层、网络层、控制层、应用层和运营层五个层次，通过接入不同厂商的异构资源池，实现了算力的接入、验证、感知、编排、调度和按需交易，不仅促进了算力资源的纳管、互联互通与可交易性，还为社会各界的算力需求提供了高效、公平、安全和可监管的交易环境。同时，需求方能够以更加亲民的价格和更低的使用门槛获取算力资源，推动了算力的普惠化，推动了算力网络的生态运营和国家算力经济的发展。

浩鲸科技正在持续构建“1+N”的大模型生态，从大模型的“1”，到AI原生应用的“N”，不断扩大外延。未来，浩鲸科技将更多的创新精力与资源投入到多元应用生态的构建，与行业一起推动大模型从“1”到“N”、构建起繁荣的AI生态。

大模型该怎样演进？

目前，三大运营商持续加码AI及算力布局，但大模型的落地远不止最后“一公里”。刘洪文认为，随着大模型技术的日益进步，尤其是大模型在语义理解和生成能力上的显著提升，运营商数智系统的发展将经历初阶、中阶和高阶三个关键阶段。

作为大模型真实价值的发挥者和使能者，浩鲸科技围绕AI +经营、AI +服务、AI+运维、AI+行业等4个方面构建了众多创新应用，覆盖12大场景，为运营商及多行业提供全方位的智能化解决方案，并取得了显著进展，全球运营商及垂直行业已有近60个商用及预商用案例，未来将从以下三个阶段出发持续演进大模型解决方案，携手运营商共拓智能转型新路。

首先，在初阶阶段，实现智能助手与系统智能增强。在这个阶段，充分利用现有的成熟语义理解和生成技术，开发一系列面向不同业务场景的智能助手。同时，还需要对现有系统进行智能增强，构建更加智能的服务体系。这包括但不限于将智能助手嵌入到各个业务流程中，实现从客户接触到问题解决的全流程智能化。

其次，在中阶阶段，实现多模态智能与平台化建设。进入中阶阶段后，将进一步探索多模态智能技术的应用，使智能助手能够处理更多样化的输入输出形式，同时，运营商还将加大在推理能力和智能工具上的投入，以支持更加复杂的业务场景处理。此外，还将致力于构建统一的MAAS平台，打破烟囱式建设模式，实现资源的高效共享和利用。该平台还将支持多种形式的代码自动生成，如代码助手、网络割接脚本等，加速业务流程自动化。

2024中国移动全球合作伙伴大会是一次全球最大运营商与其伙伴的产业链合作共行、共赢的宣示。

最后，在高阶阶段，实现自主学习与超级智能大脑。在高阶阶段，数智系统将朝着自主学习和自主进化的方向发展。借助先进的自主学习算法，系统能够根据用户反馈和环境变化持续优化自身性能，无需人为干预即可实现功能迭代。此外，未来的数智系统将以“无系统”的形态存在，用户只需关注任务本身，而无需关心背后的技术细节，所有的应用都将被无缝地整合在一起，由一个超级智能大脑统一调度和管理。Agent as a Service（AaaS）模式将取代传统的微服务架构，成为新的服务交付标准。多智能体之间的协同工作将成为常态，共同完成复杂任务。最终，IT支撑将从传统的技术支持转变为知识运营和知识开发，为运营商带来更加深远的价值创造。

采写：胡媛

视频：韩莉君

编辑：博文

指导：辛文