据央视新闻,国内最大的大模型服务平台昨天(5月8日)正式上线,由中国移动开发的这个平台已接入并提供300余款国内主流AI大模型的服务与能力,是国内汇聚大模型数量最多的平台。
据了解,该平台首创词元(Token)集约化运营模式,记者在现场看到,平台能够自动分析用户需求,智能为任务匹配最优模型。通过“成本优先”“效果优先”“均衡优先”三种模式,为用户动态筛选适配方案,以更低的词元消耗、更高的执行效率完成工作。当模型出现超时、限流或故障时,平台能自动实现秒级切换,确保业务连续不中断。
目前,该平台实现单位词元成本降低30%左右,资源占用率减少50%以上,日均调用量超过千亿级。
据了解,今年以来,人工智能应用落地加速,词元调用量呈现出指数级增长,截至3月底,日均值已突破140万亿,和2024年底相比增长超千倍。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.