概述
Amdocs 是一家为通信和媒体提供商提供软件与服务的领先供应商。该公司构建的 amAIz 特定领域生成式 AI 平台帮助电信公司深入改变了客户体验,实现了流程自动化,并优化了决策。Amdocs 正在使用NVIDIA DGX™ Cloud 与 NVIDIA AI Enterprise 软件开发和交付基于商用大语言模型(LLM)和领域适配模型的解决方案。该公司还在使用 NVIDIA NIM™,这是一套易于使用的推理微服务,旨在加速生成式 AI 在企业中的部署。
NVIDIA 使 Amdocs
提升生成式 AI 性能并降低成本
通过与 NVIDIA 合作,Amdocs 启动了将生成式 AI 整合到其核心产品组合中的战略。该公司首先确定了应用领域,然后通过重新设计用户体验和重点开发快速工程技术,使生成式 AI 功能对用户更加友好。通过优化数据格式和微调 LLM,Amdocs 提高了其计费问答系统的准确性,同时大幅降低了成本。
此次与 NVIDIA 合作使 Amdocs 的 AI 生成回答准确率提升了 30%。这一提升对于实现生成式 AI 在电信行业的广泛应用以及满足直面消费者的生成式 AI 服务的需求至关重要。
借助 NVIDIA NIM 微服务,Amdocs 还降低了成本和延迟:
- 降低运营成本:Amdocs 通过在 NVIDIA 基础设施上使用基于电信的检索增强生成技术,减少了部署用例所消耗的 token 数量,其中数据预处理和推理消耗的 token 数量分别减少了 60% 和 40%。这使该公司在实现相同准确率的情况下,减少了单位 token 成本(该成本受各种因素和使用量的影响)。
- 减少延迟:此次合作成功地将查询延迟减少了约 80%,确保终端用户体验到近乎实时的响应速度。这一加速提升了商务、护理、运营等领域的用户体验。
Amdocs 计划继续通过多种方式,将生成式 AI 集成到 amAIz 平台中,以便:
- 使用 AI 驱动的语言和情感分析,增强客户查询路由功能
- 增强其 AI 解决方案的推理能力,从而提供针对客户特定需求的建议
- 应对需要广泛领域知识和多模态、多步骤解决方案的复杂场景,例如网络诊断和优化等
Amdocs 集团技术总裁兼战略主管 Anthony Goonetilleke 表示:“与 NVIDIA 的战略合作是 Amdocs 提高生成式 AI 能力的关键。这让我们能够在基础设施和框架的基础上构建产品和服务,以满足客户不断发展的需求。”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.