网易首页 > 网易号 > 正文 申请入驻

蚂蚁清华联手放大招!彻底开源RL框架AReaL-boba,人人可复现QwQ

0
分享至

责编 |梦依丹

出品丨AI 科技大本营(ID:rgznai100)

3 月的最后一天,由蚂蚁与清华大学交叉信息研究院吴翼老师团队联合推出的开源强化学习框架 AReaL 发布了里程碑版本——AReaL boba,正如其昵称“boba”(珍珠奶茶)所寓意的那样,AReaL 团队希望他们的工作能像美味且平易近人的奶茶一样,普惠整个 AI 开发社区,让每一位开发者都能轻松驾驭强大的推理模型。

就像 AReaL 介绍里说的那番,他们将完全致力于开源,发布所有重现所需性能模型的训练细节、数据和基础设施。AReaL boba 不仅把模型、代码、数据及实现细节通通开放出来,而且还提供非常详细的教程,真正实现了“人人可手搓顶尖大模型”的愿景。

集成 SGLang 框架,效率大幅提升!

AReaL boba 是首个全面拥抱 xAI 公司高性能推理框架 SGLang 的开源训练系统。通过引入 SGLang 并进行一系列工程优化,AReaL v0.2 在 7B 模型上的训练速度相较于 v0.1 提升了 1.5 倍,端到端训练性能提升高达 73%。如下图所示:

官网提供的表格进一步展示了 AReaL-boba 在不同资源配置下的训练时间:

AReaL 团队通过大规模强化学习训练,使得 AReaL-boba-RL-7B 在数学推理能力上达到了同尺寸模型的 SOTA 水平。其在 AIME 2024 上取得了 61.9 分,在 AIME 2025 上取得了 48.3 分,不仅显著超越了基础模型,更是在多个基准测试中领先于同类开源模型。为了方便社区复现,团队还开源了相应的训练数据 AReaL-boba-106k。

AReaL-boba 团队通过监督微调,基于 R1-Distill-Qwen-32B,仅使用 200 条精选数据 (AReaL-boba-SFT-200) 就成功复现了 QwQ-32B 在 AIME 2024 上的惊人推理性能!

目前,AReaL 项目正处于积极开发阶段,并计划以每周一次的频率发布重大更 新。未来,AReaL 的研发重点将包括系统与算法的优化,系统层面将引入基于编码问题的强化 学习训练、异步生成与 RL 训练等。此外,该团队还将探索视觉-语言模型的强化学习、继续完善 32B 规模模型的强化学习训练方案,研发高效的多任务 RL 算法,并推动端到端 RL 训练的智能体能力,同时提升更大规模 MoE 模型的稳定训练能力。

有关 AReaL-boba-RL-7B 训练细节,大家可以前往官博查看详细介绍。

  • GitHub 项目地址:https://github.com/inclusionAI/AReaL

  • HuggingFace 数据模型地址:https://huggingface.co/collections/inclusionAI/areal-boba-67e9f3fa5aeb74b76dcf5f0a

此外,令人期待的是,清华大学交叉信息研究院助理教授、AReaL 项目核心成员吴翼老师 在即将举行的 2025 机器学习技术大会上,与开发者们深度剖析 AReaL 项目的技术精髓与实战经验,并着重解读 AReaL 系统如何应对强化学习的独特挑战。

与此同时,上文提及的 Light-R1-7B-DS 核心开发者、360 智脑算法资深专家邹昊晟将亲临大会,带来题为《开源推理模型的课程学习与 GRPO 数据心得和训练策略》的精彩分享。360 智脑于 3 月上旬开源了 Light-R1 多尺寸系列推理模型及训练数据与代码,在开源之初便实现了多项突破:首次在同类评测中零起点超越 DeepSeek-R1-Distill-32B,并首次在 14B 模型上实现了长推理 SFT 后 GRPO 强化学习的显著提升。全系列模型都曾亮相于周鸿祎的短视频之中。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网友将问界新车路测画面发给国家反诈中心,被认定为AI生成

网友将问界新车路测画面发给国家反诈中心,被认定为AI生成

西虹市闲话
2026-05-26 16:43:17
“B类留神峪”矿工们的逃生与等待

“B类留神峪”矿工们的逃生与等待

澎湃新闻
2026-05-26 19:48:27
连丢三盘出局,张之臻遭遇法网一轮游!中国选手仅3人突破首轮

连丢三盘出局,张之臻遭遇法网一轮游!中国选手仅3人突破首轮

全景体育V
2026-05-26 21:27:32
华为半导体业务部总裁何庭波:“数万人历经七年辛苦,铸成‘莫邪干将’剑”

华为半导体业务部总裁何庭波:“数万人历经七年辛苦,铸成‘莫邪干将’剑”

澎湃新闻
2026-05-26 17:34:23
洛夫顿赛后伤情动态!没穿上衣,肩膀不敢动,本人承诺为G2做准备

洛夫顿赛后伤情动态!没穿上衣,肩膀不敢动,本人承诺为G2做准备

篮球资讯达人
2026-05-27 01:15:29
见了死不救,还要倒打一耙——蓝天救援队的通报打了谁的脸?

见了死不救,还要倒打一耙——蓝天救援队的通报打了谁的脸?

土家铁拳
2026-05-26 20:48:35
这跟不穿有啥区别?戛纳闭幕式,女星下垂、副乳突出,露的好辣眼

这跟不穿有啥区别?戛纳闭幕式,女星下垂、副乳突出,露的好辣眼

天马幸福的人生
2026-05-26 11:05:02
女子多次告知自己花生严重过敏 餐厅仍在菜中加入花生油 致女子出现严重过敏反应进抢救室 女子要求赔偿1000元被质疑“敲诈勒索”

女子多次告知自己花生严重过敏 餐厅仍在菜中加入花生油 致女子出现严重过敏反应进抢救室 女子要求赔偿1000元被质疑“敲诈勒索”

闪电新闻
2026-05-26 18:43:15
强制出境!美赶人“新规”,百万华人一旦回国,十年都没法再入境

强制出境!美赶人“新规”,百万华人一旦回国,十年都没法再入境

共工之锚
2026-05-26 15:05:21
“想停火?先签协议” 特朗普打起新算盘

“想停火?先签协议” 特朗普打起新算盘

上游新闻
2026-05-26 14:19:02
湖北大娘硬讹收割机后续!警方介入,当地人再曝恶行,根本不敢惹

湖北大娘硬讹收割机后续!警方介入,当地人再曝恶行,根本不敢惹

另子维爱读史
2026-05-26 19:27:40
45辆新车在境外离奇消失!45笔零首付车贷,拖垮数十名普通人

45辆新车在境外离奇消失!45笔零首付车贷,拖垮数十名普通人

方圆
2026-05-25 14:50:41
黄仁勋陪父母普通小店吃饭,曾回忆:我的英文是不懂英语的母亲用字典教的

黄仁勋陪父母普通小店吃饭,曾回忆:我的英文是不懂英语的母亲用字典教的

爆角追踪
2026-05-26 09:37:26
乌克兰每日消耗1万架无人机,俄军90%伤亡来自无人机!

乌克兰每日消耗1万架无人机,俄军90%伤亡来自无人机!

三言四拍
2026-05-26 12:40:30
市场疯传的报告,AI算力机会重大转移!

市场疯传的报告,AI算力机会重大转移!

君临财富
2026-05-26 00:28:31
武汉28岁孕妇失联后续:时隔10天,首位目击人发声,丈夫行为反常

武汉28岁孕妇失联后续:时隔10天,首位目击人发声,丈夫行为反常

李晚书
2026-05-26 12:04:16
山西沁源矿难背后:沦为空文的141项煤矿安全标准,与“通风报信”式检查

山西沁源矿难背后:沦为空文的141项煤矿安全标准,与“通风报信”式检查

大风新闻
2026-05-26 17:48:27
2026一季度财政自给率:浙江96%领跑,10多个省不足50%

2026一季度财政自给率:浙江96%领跑,10多个省不足50%

风向观察
2026-05-26 11:27:00
割四赔五上热搜,当地书记都无可奈何,只能自掏腰包进行补偿

割四赔五上热搜,当地书记都无可奈何,只能自掏腰包进行补偿

映射生活的身影
2026-05-26 15:56:12
舅舅入狱前买了1200股茅台,19年后出狱去兑现,前台瞬间懵了,只能叫来经理,经理愣住:这现在市值差不多260多万!

舅舅入狱前买了1200股茅台,19年后出狱去兑现,前台瞬间懵了,只能叫来经理,经理愣住:这现在市值差不多260多万!

大爱三湘
2026-05-26 21:34:40
2026-05-27 06:08:49
AI科技大本营 incentive-icons
AI科技大本营
连接AI技术的创造者和使用者
2703文章数 7690关注度
往期回顾 全部

科技要闻

中国AI要向外卷,而不只是做第二个OpenAI

头条要闻

以色列:初步评估显示哈马斯新任军事领导人被打死

头条要闻

以色列:初步评估显示哈马斯新任军事领导人被打死

体育要闻

上赛季差点降入英甲,下赛季要踢英超了

娱乐要闻

台媒贴脸!S妈被问大S嗑药当场沉默

财经要闻

中国铝行业爆单 下一个“煤炭”大周期?

汽车要闻

涉水加强 福特烈马亚马逊限量版上市 售价39.98万

态度原创

时尚
数码
旅游
房产
公开课

蓝色系穿搭太适合夏天了!快来看看这些穿搭示范,美得不重样

数码要闻

CPU缺货涨价持续!国产芯片借势突破高端壁垒

旅游要闻

第二艘国产大型邮轮即将启航:解锁中国人的海上旅居新范式!

房产要闻

招商地产接盘碧桂园!海口这个烂尾豪宅,要彻底改命?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版