网易首页 > 网易号 > 正文 申请入驻

蚂蚁集团开源Ring-2.5-1T:首个混合线性架构万亿参数思考模型

0
分享至

IT之家 2 月 13 日消息,今日,蚂蚁集团百灵大模型发布并开源首个混合线性架构的万亿参数思考模型 ——Ring-2.5-1T

据介绍,作为迈向通用智能体时代的关键步骤,团队将混合线性注意力架构在预训练和强化学习上均进行了大规模扩展,一方面利用高效的1:7 MLA + Lightning Linear Attention 架构来提升模型的思考效率和探索空间,另一方面通过扩展强化学习和智能体环境规模来提升模型的思考深度和长程执行能力。

相比此前发布的 Ring-1T,Ring-2.5-1T 在生成效率、思考深度、长程执行上均有大幅提升:

  • 高效生成:得益于高比例的线性注意力机制,在超过 32K 生成长度下,访存规模降低 10 倍以上,成吞吐提升 3 倍以上,尤其适合深度思考和长程执行的任务。
  • 深度思考:在 RLVR 基础上引入 dense reward 来反馈思考过程的严谨性,使得 Ring-2.5-1T 同时实现 IMO 2025 和 CMO 2025 的金牌水平(自测)。
  • 长程执行:通过大规模 fully-async agentic RL训练,显著提升针对复杂任务的长程自主执行能力,使得 Ring-2.5-1T 可以轻松适配 Claude Code 等智能体编程框架和 OpenClaw 个人 AI 助理。

为评估 Ring-2.5-1T 的深度思考和长程执行能力,团队选取了具有代表性的开源思考模型(DeepSeek-v3.2-Thinking、Kimi-K2.5-Thinking)和闭源 API(GPT-5.2-thinking-high、Gemini-3.0-Pro-preview-thinking-high、Claude-Opus-4.5-Extended-Thinking)作为参考。

Ring-2.5-1T 在数学、代码、逻辑等高难推理任务(IMOAnswerBench、AIME 26、HMMT 25、LiveCodeBench、ARC-AGI-V2)和智能体搜索、软件工程、工具调用等长程任务执行(Gaia2-search、Tau2-bench、SWE-Bench Verified)上均达到了开源领先水平

团队还额外测试了深度思考模式(heavy thinking mode),通过在推理过程中扩展并行思考与总结,实现测试时扩展,从而有效提升推理的深度与广度。在 IMO 2025(满分 42 分)中,Ring-2.5-1T 获得 35 分,达到金牌水平;在 CMO 2025(满分 126 分)中取得 105 分,显著高于金牌线(78 分)及国家集训队入选线(87 分)。

此外,Ling 2.5 架构在 Ling 2.0 架构基础上引入了混合线性注意力架构。通过增量训练方式,将 Ling 2.0 架构的 GQA 升级为 1:7 的 MLA + Lightning Linear 结构。具体而言,团队基于此前发布的 Ring-flash-linear-2.0 技术路线,将部分 GQA 层改造为 Lightning Linear Attention,以显著提升长程推理场景下的吞吐能力。为进一步压缩 KV Cache,将其余 GQA 层近似转换为 MLA ,并对其中的 QK Norm 、Partial RoPE 等特性进行了针对性适配,以增强Ling 2.5 架构在混合注意力架构下的表达能力。

改造后,Ring-2.5-1T 的激活参数量从 51B 提升至 63B。但在混合线性注意力架构的支持下,其推理效率相比 Ling 2.0 仍实现了大幅提升。即便与激活参数仅为 32B 的 KIMI K2 架构相比,1T 规模下的 Ling 2.5 架构在长程推理场景下的吞吐依然具有显著优势;且生成长度越长,吞吐优势越明显

不过,蚂蚁集团也提到,这一版本模型在 token efficiency 与指令遵循方面仍存在不足,在面向更真实、更复杂任务的长程执行与实际交付能力上,也仍有较大的优化空间。团队将在后续版本中持续改进上述能力,并非常期待来自社区的使用反馈与建议。目前,Ring-2.5-1T 的训练仍在持续推进中。完整技术报告将在下一版本发布后正式公开。

IT之家附地址如下:

Hugging Face:https://huggingface.co/inclusionAI/Ring-2.5-1T

ModelScope:https://modelscope.cn/models/inclusionAI/Ring-2.5-1T

Ling Studio(https://ling.tbox.cn/chat)与 ZenMux(https://zenmux.ai/)的 Ring-2.5-1T Chat 体验页和 API 服务将在近期上线。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

文史道
2025-02-18 20:31:56
我娶了退休镇长傻女儿,洞房夜准备睡沙发,她开口:进屋

我娶了退休镇长傻女儿,洞房夜准备睡沙发,她开口:进屋

小月故事
2026-08-27 20:37:02
全民进入纯过日子模式。

全民进入纯过日子模式。

老陆不老
2026-09-02 08:27:57
2026基础养老金迎来调整,人社部给出方向,70岁老人能额外加钱吗

2026基础养老金迎来调整,人社部给出方向,70岁老人能额外加钱吗

陈博世财经
2026-09-03 13:58:49
哈佛女孩刘亦婷现状:毕业后经历无数失败,最终嫁白人,成为主妇

哈佛女孩刘亦婷现状:毕业后经历无数失败,最终嫁白人,成为主妇

玥来玥好讲故事
2026-09-03 20:39:28
纪委核查通讯记录的独门手段,很多人到落马都不知道

纪委核查通讯记录的独门手段,很多人到落马都不知道

细说职场
2026-07-28 15:28:41
80岁特朗普就哈里梅根返英打破沉默,毫不掩饰感受,“成了众人的嘴替”

80岁特朗普就哈里梅根返英打破沉默,毫不掩饰感受,“成了众人的嘴替”

译言
2026-09-03 06:26:56
太心疼,张柏芝曝儿子病情,锋菲现状曝光,原来没我们想的那么好

太心疼,张柏芝曝儿子病情,锋菲现状曝光,原来没我们想的那么好

东方不败然多多
2026-09-04 09:39:55
家长群炸锅!家委会要用班费给老师订晚餐,有人直接硬刚:要搞你们自己搞

家长群炸锅!家委会要用班费给老师订晚餐,有人直接硬刚:要搞你们自己搞

火山詩话
2026-09-04 09:33:50
1961年,陆小曼生活拮据连鸡蛋都吃不起,却变卖大衣宴请3位男子吃螃蟹,酒过三巡她开口吐露:我想求你们一事

1961年,陆小曼生活拮据连鸡蛋都吃不起,却变卖大衣宴请3位男子吃螃蟹,酒过三巡她开口吐露:我想求你们一事

唠叨说历史
2026-09-01 14:39:31
孙宇晨彻底露底:所谓币圈狠人,只是欺软怕硬的投机戏子

孙宇晨彻底露底:所谓币圈狠人,只是欺软怕硬的投机戏子

浪子的烟火人间
2026-09-04 09:11:24
25号台风杜鹃2天后到,24号台风逼近24小时警戒线,暴雨大暴雨确定,新一轮冷空气6日启程,局地降温14度

25号台风杜鹃2天后到,24号台风逼近24小时警戒线,暴雨大暴雨确定,新一轮冷空气6日启程,局地降温14度

老牛讲
2026-09-04 14:23:40
突然才发现:凡是家里出学霸的家庭,爸爸都有同一个特点,太准了

突然才发现:凡是家里出学霸的家庭,爸爸都有同一个特点,太准了

户外阿毽
2026-08-13 00:24:11
一夜之间战局反转,伊朗多线开火,美航母遇袭,五角大楼紧急下令

一夜之间战局反转,伊朗多线开火,美航母遇袭,五角大楼紧急下令

霁寒飘雪
2026-09-03 09:28:10
杜文龙曾猛批伊朗:照这么打下去,导弹打光了,美以啥事没有

杜文龙曾猛批伊朗:照这么打下去,导弹打光了,美以啥事没有

安安说
2026-09-03 10:42:40
遗憾!穆氏皇马巨星贝林厄姆错失西甲8月最佳!获奖的竟然是他!

遗憾!穆氏皇马巨星贝林厄姆错失西甲8月最佳!获奖的竟然是他!

福酱的小时光
2026-09-04 07:57:04
广东一考生收到哈理工录取通知书后,却放弃了入学资格,家长:学费都交了,就是不去大学报到!

广东一考生收到哈理工录取通知书后,却放弃了入学资格,家长:学费都交了,就是不去大学报到!

凯旋学长
2026-09-04 12:30:59
央国企最大的问题:戏子当道!

央国企最大的问题:戏子当道!

黯泉
2026-04-18 09:20:48
刚刚,GPT-6正式发布!OpenAI:欢迎来到AGI时代

刚刚,GPT-6正式发布!OpenAI:欢迎来到AGI时代

量子位
2026-09-04 05:45:05
韩红近况曝光!低调现身上海,染发烫头很自在

韩红近况曝光!低调现身上海,染发烫头很自在

白宸侃片
2026-09-04 14:11:05
2026-09-04 15:24:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
364826文章数 607479关注度
往期回顾 全部

科技要闻

OpenAI深夜王炸!GPT-6 Astra来了

头条要闻

媒体:美国G20相关会议声明单独"点名"中国 十分罕见

头条要闻

媒体:美国G20相关会议声明单独"点名"中国 十分罕见

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

王宝强冯清八年未领证!真相令人泪目

财经要闻

GPT-6 Astra上线,AGI时代真到来了吗?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

游戏
数码
本地
艺术
公开课

《混沌兵团》正式推出 好评超机战风格太空机甲战棋

数码要闻

海尔与UC3达成合作 产品和服务已进入200多个国家和地区

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

艺术要闻

中国最美的殡仪馆

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版