北京
分享至
10月15日，蚂蚁百灵宣布正式开源Ling-3.1-flash模型。该模型总参数约560B，每个Token激活约25B，上下文最高支持1M。
本地部署方面，蚂蚁百灵对routed experts采用MXFP4量化，dense层保持block-FP8，权重占用由约534GB降至292GB。
在Artificial Analysis的公开评测中，Ling-3.1-flash的智能指数为41，输出速度约为每秒210 Token。
在对应的Hopper GPU测试配置中，该模型的服务部署由8卡降至4卡，使拥有服务器级GPU的团队能以更少卡数运行；实际需求仍随上下文、并发量和服务配置而变。
百灵在9月30日发布Ling-3.1-flash时，已将该模型投入办公、医疗沟通和软件研发等场景。此次开源，百灵希望更多团队能在自有环境中部署并接入该模型，将上述场景能力融入自身业务流程。
市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：行舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
