北京
分享至
国内最大的大模型服务平台昨天（8日）正式上线，由中国移动开发的这个平台已接入并提供300余款国内主流AI大模型的服务与能力，是国内汇聚大模型数量最多的平台。
据了解，该平台首创词元（Token）集约化运营模式，记者在现场看到，平台能够自动分析用户需求，智能为任务匹配最优模型。通过“成本优先”“效果优先”“均衡优先”三种模式，为用户动态筛选适配方案，以更低的词元消耗、更高的执行效率完成工作。当模型出现超时、限流或故障时，平台能自动实现秒级切换，确保业务连续不中断。
中国移动云能力中心智算产品总监 李莉：可能简单一点的就用一个小参数量但是很便宜的模型来回答，复杂的就会用参数量大的但是很聪明的模型来回答。在这个过程中精度是不会下降的。
目前，该平台实现单位词元成本降低30%左右，资源占用率减少50%以上，日均调用量超过千亿级。
据了解，今年以来，人工智能应用落地加速，词元调用量呈现出指数级增长，截至3月底，日均值已突破140万亿，和2024年底相比增长超千倍。 （央视新闻客户端）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
