560B总参数,每个Token只激活25B。蚂蚁百灵开源的Ling-3.1-flash,把大模型部署的账算到了卡数上——原本要8张Hopper GPU跑起来的服务,现在4张就够。
10月15日,蚂蚁集团旗下百灵大模型宣布开源Ling-3.1-flash。模型权重面向Hugging Face和ModelScope提供下载,主打"真实可用",目标是把模糊的业务需求更快变成可用的成果。
![]()
参数大,但激活得少
Ling-3.1-flash延续了Ling-3.0-flash的混合线性架构,约560B总参数,每个Token激活约25B参数,最高支持1M上下文。这个组合意味着模型体量摆在那里,但每次推理真正调动的部分被压得很小。
针对本地部署,团队对routed experts采用MXFP4量化,dense层保持block-FP8。权重占用从约534GB降至292GB。在对应的Hopper GPU测试配置中,服务部署由8卡降至4卡——具备服务器级GPU的团队,可以用更少的卡数把模型跑起来。
办公、医疗、代码,三个场景的分数
模型在办公、医疗、软件工程、终端操作等复杂工作流中保持了高质量表现。面对分散资料,它可以协助整理报告与汇报材料;面对零散症状,帮助梳理病史和就诊问题;面对旧代码,能够读懂原有实现、编写新功能,并依据测试结果继续修正。
几项公开评测的分数如下:
- 办公任务评测GDPVal-AA V2.1:1673分(ELO)
- 医疗场景评测HealthBench Professional:65.35分
- 软件工程基准FrontierSWE与终端操作基准Terminal-Bench 4.0:同样表现出处理复杂工程任务的能力
在Artificial Analysis的公开评测中,Ling-3.1-flash的智能指数为41,输出速度约为每秒210 Token。
0.19美元背后的"智效比"
企业知识助手和代码助手这类场景,经常要连续处理资料、生成内容,并根据反馈修改结果。模型既要具备处理这些任务的通用能力,也要让多轮调用保持足够快的响应。
![]()
"智效比"是百灵系列模型的核心特点,在Ling-3.1-flash上得以延续并进一步强化。混合调用价格约为每百万Token 0.19美元,位于较快输出、较低价格区间,面向高频调用场景兼顾生成效率与成本优势。
这个价格配合每秒210 Token的输出速度,指向的是同一件事:高频业务场景里,单次调用的成本和时间都要压下来。
从服务器到手机,Ling 3.0已经跑过一遍
此前,Ling 3.0系列已在多类设备上开展开源实践,覆盖从服务器到个人电脑、移动终端的多种部署路径。
- 服务器端:单台NVIDIA DGX Spark可运行Ling-3.0-flash,用于驱动编码智能体构建并测试小游戏
- 个人电脑端:16GB MacBook Air可运行Ling-3.0-tiny,搭建常驻本地助手
- 移动端:Galaxy A32 4G通过Tiny GGUF版本验证了本地推理与工具路由原型,小米14T Pro借助PocketPal实现了Tiny版本的本地对话
Ling-3.0系列模型在Hugging Face近30天下载量接近100万次,社区已提供Flash GGUF、Tiny GGUF、Flash MLX 4bit等多种适配版本。
随着Ling-3.1-flash开源,百灵系列模型为开发者提供了更完整、可自主验证和二次适配的模型基础。模型能力正进一步贴近真实业务交付,从需求文档、代码仓库到生产环境之间的链路被继续压缩。
不追参数规模,追业务交付
百灵作为蚂蚁集团AI业务发展背后的模型研究力量,为消费端AI应用和企业级智能体提供模型能力支撑。不同于单纯追求模型参数规模,百灵聚焦将模型能力带入真实业务中交付结果。
在金融、医疗等复杂专业领域,百灵依托基座模型已相继推出Ling-3.0-flash-Fin、Ling-3.0-flash-Sante等增强模型,将通用模型能力进一步转化为投研、健康管理等真实业务流程中的专业能力。
通过此次开源,百灵希望更多团队能够在自有环境中部署和接入Ling-3.1-flash,把这些场景能力融入自己的业务流程。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.