说起AI大模型,不少人的固有想法是模型做得越大就越好,随之而来的就是高昂的算力消耗。可放到银行的日常工作当中,并不是每一件事情都需要动用“重型”大模型。简单的信息查询、日常答疑,如果一味调用能力最强的大模型,既浪费算力,也拉高运行成本。面对这一现实难题,平安银行自研出Paix2智能路由模型,能够为各项任务快速分配适合的大模型资源。
![]()
在国际知名的RouterArena大模型路由公开评测当中,Paix2拿下榜单第一名,并且连续近一个月稳居榜首。这份亮眼的成绩,也成为平安银行在人工智能自主创新道路上的一次重要突破。很多人好奇,Paix2究竟强在哪里?评测数据给出了答案:在回答效果几乎相当的前提下,它可以把模型整体调用成本直接降低约61%;同时最优模型选择得分89.67,最优准确率得分更是达到100%。也就是说,它既能够保证回答质量,又实实在在省下算力开销,还可以精准识别不同任务该交给谁处理。
![]()
这份优秀的答卷,离不开Paix2独有的“BERT +专家规则 +经典推荐模型”三位一体架构。整套工作流程其实很好理解:第一步依靠BERT深度读懂用户的提问意图,先弄明白这究竟只是一句简单咨询,还是一份需要深度研读的长文本分析任务;第二步依托专家规则牢牢守住金融业务的风险底线,毕竟银行业务严谨性优先,不能任由AI自由发挥;再由推荐模型综合权衡回答效果与运行开销,从候选的四款能力各有侧重的大模型当中选出更合适那一个。四款候选模型各有所长,有的擅长快速回话,适合简单答疑;有的擅长深度推理分析,专门用来处理复杂业务研判。Paix2的工作,就是做好分工匹配,简单问题交给轻快的小模型,复杂难题再启动高性能大模型,避免出现“杀鸡用牛刀”的资源浪费。
对于平安银行来说,漂亮的榜单分数仅仅只是开始,技术还是要回归真实的银行业务场景。银行每天要处理的工作五花八门,既有高频的基础业务查询,也有大量长材料梳理、复杂业务研判工作。过去不分难易程度全部用同一个大模型,海量请求之下,算力压力大、运行成本居高不下。现在Paix2已经正式落地应用在数字员工“小派同学”身上,服务银行内部员工的日常办公,后续还会逐步拓展到更多内部AI场景。借助这套智能调度方案,银行内部AI系统运行更加高效稳定。
![]()
技术从来不是用来冲榜单的“花架子”。未来随着技术持续迭代升级,平安银行还会继续深挖AI的潜力,把技术优势转化成为实实在在的服务能力,给员工减负,也为广大客户带来更加高效贴心的金融服务新体验。
免责声明:本文系广告推广,内容由广告方提供,本平台仅做邀约发布,不承担任何责任,如有违规、侵权请联系我们删除。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.