网易首页 > 网易号 > 正文 申请入驻

重磅!DeepSeek R1方法成功迁移到视觉领域,多模态AI迎来新突破

0
分享至

机器之心发布

机器之心编辑部

嘿,各位开发小伙伴,今天要给大家安利一个全新的开源项目 ——VLM-R1!它将 DeepSeek 的 R1 方法从纯文本领域成功迁移到了视觉语言领域,这意味着打开了对于多模态领域的想象空间!

这个项目的灵感来自去年 DeepSeek 开源的那个 R1 方法,靠着 GRPO(Generative Reward Processing Optimization)强化学习方法,在纯文本大模型上取得了惊人的效果。

现在,VLM-R1 团队直接把它应用到了视觉语言模型上,打开了一扇新的大门!

VLM-R1 验证结果惊艳

这个项目的团队在 Qwen2.5-VL 的基础上,同时对比了 R1 和传统的 SFT 方法。结果相当惊艳:

1、稳定性拉满:R1 方法在各种复杂场景下都能保持稳定的高性能,这在实际应用至关重要!

2. 泛化能力卓越:更让人震惊的是,在领域外的测试数据上,随着训练步数增加,传统 SFT 模型的性能开始下滑,而 R1 模型却能持续提升!这意味着 R1 方法帮助模型真正 “学会” 了理解视觉内容,而不是简单地记忆!

(训练和测试领域的差异对比)

(泛化性对比,绿线是 VLM-R1,在领域外泛化性显著更优)

3、上手超简单:VLM-R1 项目团队还贴心地提供了完整的训练和评估流程,四步就能开始训练,对开发者十分友好。

小编亲测之后,在此分享一个实际案例,结果让人意外。

图片里展示了一桌子丰盛的美食,包括各种蔬菜、面饼和点心。针对图片,我们向模型提出了一个问题:“在图片中找出蛋白质含量最高的食物”。

模型不仅回答得准确:

“图片中展示了桌上的各种菜品,包括蔬菜、面饼和点心。从蛋白质含量来看,面饼或面点可能含量最高,因为它们通常由全谷物制成,面粉中含有蛋白质。虽然蔬菜也含有蛋白质,但比起这些主食来说含量较少。”

更厉害的是,它还精准地在图片中框选出了那个蛋白质含量最高的鸡蛋饼!

这种精确的视觉理解能力和推理能力,让人印象深刻!

完美展示了 VLM-R1 在实际应用中的优势:

  • 准确的视觉识别能力
  • 专业的知识推理能力
  • 清晰的文本表达能力

全新思路

作为一个 AI 领域的观察者,VLM-R1 的出现也为开发者和行业提供了许多新的思路,比如:

1、证明了 R1 方法的通用性,不止文本领域玩得转;

2、为多模态模型的训练提供了新思路;

3、或许能够引领一种全新的视觉语言模型训练潮流;

完全开源

最棒的是,这个优秀的项目完全开源!

项目地址:[VLM-R1](https://github.com/om-ai-lab/VLM-R1)

对视觉语言模型感兴趣的同学,强烈建议去看看这个项目。说不定你的下一个突破性研究就从这里开始!

最后,期待看到更多开发者加入进来,一起推动多模态 AI 技术的发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
江苏最新提醒:社保补贴来啦!直接发给个人!及时申请!

江苏最新提醒:社保补贴来啦!直接发给个人!及时申请!

句容日报
2026-09-19 21:13:09
臭名昭著的“还乡团”究竟是什么货色?危害有多大?最终结局如何?

臭名昭著的“还乡团”究竟是什么货色?危害有多大?最终结局如何?

大运河时空
2026-09-19 12:20:05
切尔西引援昏了头,36岁新援单场17次丢失球权还耍大牌,0-3惨败

切尔西引援昏了头,36岁新援单场17次丢失球权还耍大牌,0-3惨败

智道足球
2026-09-19 09:01:51
软如面条?男篮2.2米大个子全场0分,球迷质问:为啥不带上周琦?

软如面条?男篮2.2米大个子全场0分,球迷质问:为啥不带上周琦?

勇敢的探索世界
2026-09-19 18:06:35
父亲独留2岁娃在家中,后孩子坠亡,母亲能否追责父亲?律师:直接受害者是孩子,母亲法律上能告,但赔偿款是“夫妻共同财产”

父亲独留2岁娃在家中,后孩子坠亡,母亲能否追责父亲?律师:直接受害者是孩子,母亲法律上能告,但赔偿款是“夫妻共同财产”

鲁中晨报
2026-09-18 16:43:38
疯狂?拜仁携7-0登顶德甲!1.7亿巨星戴帽+独造5球 凯恩百球里程碑

疯狂?拜仁携7-0登顶德甲!1.7亿巨星戴帽+独造5球 凯恩百球里程碑

我爱英超
2026-09-19 06:07:14
金佛在哪?早融成金条了!

金佛在哪?早融成金条了!

老凤说财经
2026-09-18 14:17:37
高手,在身边丨一团绒线两根棒针,织出“独一份”的暖意与巧思

高手,在身边丨一团绒线两根棒针,织出“独一份”的暖意与巧思

澎湃新闻
2026-09-19 07:00:38
奥运冠军杜丽现状:44岁仍韵味十足,如今从满脸痘蜕变成颜值女神

奥运冠军杜丽现状:44岁仍韵味十足,如今从满脸痘蜕变成颜值女神

巧妹电影
2026-08-18 14:41:15
纸板床又来了!新加坡运动员,苦中作乐?实拍名古屋亚运房间:看似简陋,实则全是纸板做的!

纸板床又来了!新加坡运动员,苦中作乐?实拍名古屋亚运房间:看似简陋,实则全是纸板做的!

开成运动会
2026-09-19 08:16:02
斯诺克决出14席正赛!冠军5进3出,2大TOP16突围,中国5人压哨晋级!

斯诺克决出14席正赛!冠军5进3出,2大TOP16突围,中国5人压哨晋级!

刘姚尧的文字城堡
2026-09-20 07:49:15
贾国龙妻子,质押西贝股权

贾国龙妻子,质押西贝股权

中国新闻周刊
2026-09-19 20:21:18
曝陈建州被送医仅1天,私生活被扒底朝天,小S一番话耐人寻味

曝陈建州被送医仅1天,私生活被扒底朝天,小S一番话耐人寻味

李大嘴说本尊
2026-09-17 20:16:32
诡异的名古屋吉祥物,太吓人了!

诡异的名古屋吉祥物,太吓人了!

A活着
2026-09-20 07:26:31
高市早苗调整完内阁班子,第一时间向中国表态:中国是重要的邻国

高市早苗调整完内阁班子,第一时间向中国表态:中国是重要的邻国

随遇而安之心
2026-09-19 11:36:06
里沙利松社媒回复德泽尔比发言:发含泪表情并留言为什么

里沙利松社媒回复德泽尔比发言:发含泪表情并留言为什么

懂球帝
2026-09-19 23:47:36
国锦赛资格赛第三日战罢!中国军团五胜五负,Top16三战两胜七冠王爆冷

国锦赛资格赛第三日战罢!中国军团五胜五负,Top16三战两胜七冠王爆冷

世界体坛观察家
2026-09-20 06:16:44
随着斯图加特0-1+多特蒙德4连胜,德甲最新积分榜出炉:榜首易主

随着斯图加特0-1+多特蒙德4连胜,德甲最新积分榜出炉:榜首易主

侧身凌空斩
2026-09-20 02:25:47
救助摔倒老人却遭索赔92万元,终审驳回全部诉求!当事快递员最新发声

救助摔倒老人却遭索赔92万元,终审驳回全部诉求!当事快递员最新发声

天下泉城
2026-09-19 15:30:12
越南没想到,朝鲜也没想到,如今的中国甘肃省,已成全球焦点

越南没想到,朝鲜也没想到,如今的中国甘肃省,已成全球焦点

三农雷哥
2026-09-19 19:13:22
2026-09-20 08:23:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14030文章数 142734关注度
往期回顾 全部

科技要闻

谷歌承认:AI模型“黑”进3家公司

头条要闻

伊朗:已向美国政府传达7项谈判条件

头条要闻

伊朗:已向美国政府传达7项谈判条件

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

甜度爆表!许嵩冯禧晒婚纱照官宣结婚

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

教育
时尚
本地
手机
公开课

教育要闻

第一性原理:学校教学常规只需要抓好这两个!

早秋外套别总穿黑色,准备一件黄色针织衫,温柔大方又减龄

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

手机要闻

万元升级就换个颜色!iPhone 17、18堪比双胞胎:外观无差别 手机壳通用

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版