网易首页 > 网易号 > 正文 申请入驻

纯 RNN 无 KV cache,RWKV-7-2.9B模型,精通全球语言

0
分享至

始智AI wisemodel.cn开源社区

始智AI wisemodel.cn社区是源自中国的中立开放的AI开源社区。正在,欢迎加入共同成长。wisemodel社区上线,H800/H20等资源上线,价格实惠,灵活方便,支持在线微调训练模型,及和,并。

2025 年 2 月 11 日,RWKV 基金会正式发布 RWKV-7-World-2.9B-V3 模型(以下简称 RWKV-7-2.9B)。

RWKV-7-2.9B 模型基于 RWKV World V3 数据集训练。无论是模型评测还是实际体验,RWKV-7-2.9B 都超越了上一代 RWKV-6-7B模型。其模型已经上线始智AI-wisemodel开源社区,欢迎下载和使用。

模型地址

https://wisemodel.cn/models/rwkv4fun/rwkv-7-world/intro

01.

RWKV性能提升

英文和多语言测评

RWKV-7-2.9B 模型的英文和多语言能力,均显著超越所有同尺寸模型,包括Llama 3.2 3B、Qwen2.5 3B等知名优秀开源模型。

选择题形式的 MMLU 测试上,RWKV-7-2.9B 模型得分为54.56%。作为对比,上一版本的 RWKV-6-World-3B-V2.1 模型 MMLU 评分是32.38%。

Tips RWKV-7-2.9B 基底模型的性能提升完全通过常规训练实现,未针对任何测试进行“优化”,也没有采取退火或 post-training 等优化策略。

02.

生成案例

以下是 RWKV-7-2.9B 的生成案例(使用 RWKV Runner 运行)。

代码任务RWKV-7-2.9B-v3-demo1RWKV-7-2.9B-v3-demo2多语言任务

RWKV-7-2.9B 多语言写请假信:

Lieber Herr [先生的名字],
Ich möchte Ihnen mitteilen, dass ich mich auf dem Weg zur Marsrakete befinde und morgen eine Woche lang fehlen werde. Ich habe diese Entscheidung getroffen, weil ich mein Leben erkunden möchte.
Es war ein großer Genuss, von Ihnen unterrichtet worden zu sein und vieles zu lernen. Ich werde dieses Wissen nie vergessen.
Ich hoffe, dass wir uns bald wiedersehen werden und danke Ihnen für alles!
Mit freundlichen Grüßen
[Ihr Name]
尊敬的[先生姓名]先生:
我在此通知您我正在前往火星火箭的途中,我将从明天起缺席一周。做出这个决定是因为我想探索我的生活。
能够接受您的教导并学习很多东西是一种极大的享受。我将永远不会忘记这些知识。
希望我们能很快再次见面并为一切向您致谢!
此致
敬礼
[您的姓名]
--------------------------------------------------------------------------------------
عزيزي السيد [اسم المعلم$$],
أود أن أخبرك أنني أتجه حالياً إلى سفينة الغوص تحت الماء وأنا غائب ليوم واحد في الأسبوع. قررت هذا القرار لأنني أريد أن أكتشف العالم.
لقد كان من الجيد التعلم منك واستلام معلومات عديدة. سأحافظ على هذه المعرفة دائمًا في ذاكرتي.
آمل أن نلقى بعضًا مرة أخرى وأشكرك على كل شيء!
باحترام،
[اسم المطالب]
尊敬的[老师姓名]先生:
我谨此告知您:我将开始参与深海潜水艇的作业项目(每周将固定缺席一日)。作出这个决定是因为我想借此机会探索未知的世界。
能跟随您学习并收获丰富的知识是我的荣幸,这些宝贵的教导我将永远铭记于心。
期待未来能有重逢之日!衷心感谢您给予的一切!
此致 敬礼
[申请人姓名]
角色扮演

RWKV-7-2.9B 进行“八戒”角色扮演,未添加任何角色扮演提示词或者角色预设

RWKV-7-2.9B 续写小说(高亮板块为 deepseek-R1 生成的前文):

RWKV-7-2.9B-v3-demo5

03.

未来计划

RWKV-7-2.9B 模型的强大能力,得益于 RWKV-7 架构的精妙改进。在应用了“动态 State 演化机制”后,RWKV-7 拥有强大的 in-context-learning(上下文学习)能力,在推理过程中更好地学习上下文的关系,生成的内容生更精简、更合理。

RWKV-7-7B 预计将使用新的 RWKV World V3.1 数据集训练。World V3.1 数据集将在 World V3 的基础上新增大量数学、代码和 reasoning 数据,进一步增强模型的代码、数学和推理能力

----- END -----

wisemodel相关:

系统升级:

系列模型:

关于wisemodel更多

1

欢迎持续关注和支持

开源社区建设需要长期坚持和投入,更需要广大用户的积极参与、贡献和维护,欢迎大家加入wisemodel开源社区的志愿者计划和开源共创计划。期待更多开发者将开源成果,包括模型、数据集和代码等发布到 wisemodel.cn 社区,共建中立、开放的AI开源社区生态。欢迎扫码添加wisemodel微信,申请加入wisemodel社群,持续关注wisemodel.cn开源社区动态。

2

欢迎加盟wisemodel开源社区

始智AI wisemodel社区自2023年9月上线以来,逐渐成为影响力日益扩大的中立开放的AI开源社区,为了加快公司发展,我们长期需要技术、运营等人才加盟,技术侧重在AI infra、后端开发,熟悉K8S、模型训练和推理等技术, 以及熟悉开发者生态运营的成员,欢迎感兴趣的朋友加盟,可以通过添加wisemodel微信,或者将简历投递到邮箱:liudaoquan@wisemodel.cn

3

欢迎投稿优质内容

欢迎投稿分享人工智能领域相关的优秀研究成果,鼓励高校实验室、大企业研究团队、个人等,在wisemodel平台上分享各类优质内容,可以是AI领域最新论文解读、最新开源成果介绍,也可以是关于AI技术实践、应用和总结等。投稿可以发邮件到liudaoquan@wisemodel.cn,也可以扫码添加wisemodel微信。

4

关于wisemodel开源社区

始智AI wisemodel.cn开源社区由清华校友总会AI大数据专委会副秘书长刘道全创立,旨在打造和建设中立开放的AI开源创新社区,将打造成“HuggingFace”之外最活跃的AI开源社区,汇聚主要AI开源模型、数据集和代码等,欢迎高校科研院所、大型互联网公司、创新创业企业、广大个人开发者,以及政府部门、学会协会、联盟、基金会等,还有投资机构、科技媒体等,共同参与建设AI开源创新生态。

向上滑动查看

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大S忌日不到24小时,小玥儿姐弟新动态曝光,让S家的深情成笑话

大S忌日不到24小时,小玥儿姐弟新动态曝光,让S家的深情成笑话

法老不说教
2026-02-03 16:39:13
刚刚,崩了!大面积暴跌!这一板块却猛涨

刚刚,崩了!大面积暴跌!这一板块却猛涨

中国基金报
2026-02-05 12:35:58
欠中国的钱,委内瑞拉不还了?美财长:中国已无法继续获得委石油

欠中国的钱,委内瑞拉不还了?美财长:中国已无法继续获得委石油

我是盲流
2026-01-22 11:37:44
为什么世界上没有一个面积在300~700万平方公里的国家?

为什么世界上没有一个面积在300~700万平方公里的国家?

孤云朗境
2026-02-04 23:52:06
苹果多款新品来了,新升级很猛

苹果多款新品来了,新升级很猛

科技堡垒
2026-02-03 11:41:36
全球第一发炎食物,一吃马上就发炎!别再让它破坏你的肠道

全球第一发炎食物,一吃马上就发炎!别再让它破坏你的肠道

健康科普365
2026-02-04 21:50:43
希拉里私下有多混乱?一天同时约会5个男性,总统丈夫敢怒不敢言

希拉里私下有多混乱?一天同时约会5个男性,总统丈夫敢怒不敢言

李斄在北漂
2025-12-31 17:57:27
最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

贰文
2024-10-31 00:30:11
许利民下课,新帅上任首钢?超60岁,曾3夺总冠军,谁注意他表态

许利民下课,新帅上任首钢?超60岁,曾3夺总冠军,谁注意他表态

苏甩甩
2026-02-05 09:40:27
昨夜,Claude智能体压垮华尔街,近万亿刀市值蒸发

昨夜,Claude智能体压垮华尔街,近万亿刀市值蒸发

机器之心Pro
2026-02-05 11:25:57
38岁张馨予太丰满了,穿衬衫都兜不住,我感慨军人老公果然会选人

38岁张馨予太丰满了,穿衬衫都兜不住,我感慨军人老公果然会选人

蓓小西
2026-02-02 09:30:09
选战稳了?高市跟中方谈条件,日本官员通告:台湾地区攸关日存亡

选战稳了?高市跟中方谈条件,日本官员通告:台湾地区攸关日存亡

番茄说史聊
2026-02-05 13:42:45
乌克兰无人系统司令:我们每天都能摧毁三个俄军营,但这还不够!

乌克兰无人系统司令:我们每天都能摧毁三个俄军营,但这还不够!

老马拉车莫少装
2026-01-30 12:27:50
外媒关注《哈利·波特》角色马尔福成“中国马年吉祥物”,扮演者本人发帖

外媒关注《哈利·波特》角色马尔福成“中国马年吉祥物”,扮演者本人发帖

环球网资讯
2026-02-04 19:17:15
吴君如很早就说过了,陈妍希私下就是这样穿

吴君如很早就说过了,陈妍希私下就是这样穿

八星人
2026-01-21 15:14:26
周星驰《女足》不上春节档,拍摄现场简陋,烂过《新喜剧之王》

周星驰《女足》不上春节档,拍摄现场简陋,烂过《新喜剧之王》

光影新天地
2026-02-02 21:24:56
八段锦这场“骗局”,到底忽悠了多少中国女人

八段锦这场“骗局”,到底忽悠了多少中国女人

一个坏土豆
2026-02-04 19:20:35
球报:姆巴佩母亲签下经纪人合同后,收入超8名皇马球员薪水

球报:姆巴佩母亲签下经纪人合同后,收入超8名皇马球员薪水

懂球帝
2026-02-05 10:42:14
不用坐牢了?马杜罗入狱3周后,中方斩钉截铁,委代元首接过兵权

不用坐牢了?马杜罗入狱3周后,中方斩钉截铁,委代元首接过兵权

东极妙严
2026-02-04 11:11:37
江西官方通报:成立联合调查组,将问责责任人

江西官方通报:成立联合调查组,将问责责任人

澎湃新闻
2026-02-05 00:54:05
2026-02-05 15:11:00
wisemodel开源社区 incentive-icons
wisemodel开源社区
始智AI wisemodel.cn开源社区,打造中国版“huggingface”
452文章数 14关注度
往期回顾 全部

科技要闻

微信给马化腾浇了“一盆冷水”

头条要闻

媒体:特朗普急于将爱泼斯坦案翻篇 千方百计转移视线

头条要闻

媒体:特朗普急于将爱泼斯坦案翻篇 千方百计转移视线

体育要闻

奇才:我学生……独行侠:成交!

娱乐要闻

谢娜明年开演唱会:带老歌出来见见人

财经要闻

黄金,出现拐点

汽车要闻

一切交给XWD 捷途旅行者C-DM也能轻松刷冰锅

态度原创

艺术
健康
房产
亲子
家居

艺术要闻

他热爱绘画,生活中的每一刻都充满激情!

耳石症分类型,症状大不同

房产要闻

新春三亚置业,看过这个热盘再说!

亲子要闻

筑牢儿童皮肤防线,深圳科普书《儿童成长中的皮肤烦恼》发布

家居要闻

简雅序章 自然且闲适

无障碍浏览 进入关怀版