网易首页 > 网易号 > 正文 申请入驻

视觉AI迎来大转折:AI生成模型也能当“视觉专家”了!

0
分享至

上海4月24日讯 人工智能领域迎来重大突破——Google DeepMind团队发布全新研究成果"Vision Banana",用"生成即理解"的理念,为计算机视觉领域带来一场范式革命。

什么是"生成即理解"?

简单来说,过去人们认为图像生成模型(比如能画画的AI)和视觉理解模型(比如能识别物体、测量距离的AI)是两条平行线。但DeepMind这次证明,只要让AI学会生成图像,它自然就学会了"看懂"图像。


这项研究论文《Image Generators are Generalist Vision Learners》于近期发表在学术平台Arxiv上,项目地址已公开。核心思想是:图像生成训练能让模型学到强大且通用的视觉表征,图像生成器就是强大的通用视觉学习器。

技术有何创新?

研究团队基于Nano Banana Pro图像生成模型构建了Vision Banana,未增加专门用于视觉理解的复杂网络结构,也未修改底层架构。其核心方法是:将视觉感知任务的输出全部参数化为RGB图像格式。


举例来说,深度估计任务中,团队设计了严格可逆的数学映射机制,将物理深度[0, ∞)映射到RGB色彩立方体边缘,支持无损解码;分割任务则通过提示词规定颜色掩码,模型直接生成带颜色掩码的图片,随后提取对应颜色像素还原分割结果。

性能表现亮眼

多项测试数据显示,Vision Banana在多种视觉任务中实现SOTA性能:

语义分割:Cityscapes数据集mIoU达0.699,超越SAM3的0.652

深度估计:六大公开基准平均δ₁精度0.882;与Depth Anything V3可比的四个数据集平均δ₁达0.929,超过Depth Anything V3的0.918


实测案例:鹿苑寺照片深度估计13.71米,实际测量12.87米,绝对相对误差仅约0.065

更重要的是,模型在验证"生成即理解"的同时,未损伤原有生成能力——GenAI-Bench胜率达53.5%。

谁参与了这项研究?

研究由Google DeepMind主导,何恺明、谢赛宁等多位知名学者参与。其中谢赛宁连续发文强调这一成果,认为"这些生成先验超越了视觉专家模型长期依赖的专有架构与训练范式"。

数据来源值得注意

训练数据全部来自合成渲染引擎,未使用任何真实世界的深度数据,评估基准的真实训练数据均被排除——这意味着模型的泛化能力更强。


未来挑战

研究团队也指出当前局限:推理开销仍然显著偏高,加速与成本优化是走向广泛部署的必由之路;当前评估专注于单目图像输入,多视图和视频输入是自然的下一步;探索基础视觉模型与LLM的协同融合,以增强跨模态推理也是未来方向。

行业意义

研究团队在论文中表示:"我们可能正见证计算机视觉领域的重大范式转变,我们正在目睹计算机视觉的范式转变,并为基于视觉的AGI铺平道路。"

业界认为,这一成果标志着生成式视觉预训练在构建同时支持生成和理解的基础视觉模型中扮演核心角色,为AI视觉技术打开新的发展路径。

记者手记:当生成模型不仅能"画"还能"懂",我们离真正的"视觉智能"还有多远?Vision Banana或许只是起点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
含泪赚了4万多!上海月薪5000女生花4.8万买手链,3小时退货被拒,引热议

含泪赚了4万多!上海月薪5000女生花4.8万买手链,3小时退货被拒,引热议

火山詩话
2026-07-11 08:10:03
7月才过6天连爆4个瓜!出轨、下体照、顶风开唱,一个比一个炸裂

7月才过6天连爆4个瓜!出轨、下体照、顶风开唱,一个比一个炸裂

蜉蝣说
2026-07-09 12:15:21
后续!霸占车位的长沙女干部,离谱履历被扒,网传老公级别更高

后续!霸占车位的长沙女干部,离谱履历被扒,网传老公级别更高

谭谈社会
2026-07-11 17:53:47
不能忘却的记忆,英格兰和挪威球员赛前悼念杰登-亚当斯

不能忘却的记忆,英格兰和挪威球员赛前悼念杰登-亚当斯

懂球帝
2026-07-12 05:27:06
长沙霸占车位女子被停职,其男友也参与了堵车,六次调节详情曝光

长沙霸占车位女子被停职,其男友也参与了堵车,六次调节详情曝光

汉史趣闻
2026-07-11 21:13:19
某县城国企,已经两个月没发工资了

某县城国企,已经两个月没发工资了

蚂蚁大喇叭
2026-07-11 17:15:54
“巴威”路径与强度为何反复变化?北方是否面临强降水风险?专家分析

“巴威”路径与强度为何反复变化?北方是否面临强降水风险?专家分析

澎湃新闻
2026-07-11 20:48:04
亚当斯之死早有端倪!南非出线队友狂欢,却唯独他在一旁呆若木鸡

亚当斯之死早有端倪!南非出线队友狂欢,却唯独他在一旁呆若木鸡

新杀猪的秀才
2026-07-12 00:01:22
托卡耶夫隐忍7年,趁着普京无力东顾,一举挖掉了国内亲俄派的根

托卡耶夫隐忍7年,趁着普京无力东顾,一举挖掉了国内亲俄派的根

离离言几许
2026-07-11 23:17:42
四川警方突袭一牛肉制假窝点,现场多人正徒手在猪肉上抹牛油、牛血冒充牛肉,涉案超百万元

四川警方突袭一牛肉制假窝点,现场多人正徒手在猪肉上抹牛油、牛血冒充牛肉,涉案超百万元

环球网资讯
2026-07-11 11:33:26
1993年张学良第一次见到冯巩,手里的佛珠猛地滑脱在地,片刻才颤巍巍开口:“你莫不是冯国璋的后代?”得到证实后,他两行老泪无声滑落

1993年张学良第一次见到冯巩,手里的佛珠猛地滑脱在地,片刻才颤巍巍开口:“你莫不是冯国璋的后代?”得到证实后,他两行老泪无声滑落

起飞做故事
2026-07-10 17:15:05
我说日本最近怎么不叫了!原来有内鬼给它偷偷输血!国家动真格了

我说日本最近怎么不叫了!原来有内鬼给它偷偷输血!国家动真格了

残梦重生来
2026-07-11 18:20:29
“有钱人不长你这样!”女孩晒天价矿泉水被嘲,家长认清现实!

“有钱人不长你这样!”女孩晒天价矿泉水被嘲,家长认清现实!

林林先生
2026-07-10 09:05:03
豪横!周大生老板娘46岁生日,老公送的“有钱花”,一家四口同框

豪横!周大生老板娘46岁生日,老公送的“有钱花”,一家四口同框

另子维爱读史
2026-07-11 20:52:41
霸占车位8天的彭副处长,原来只是个副科长!

霸占车位8天的彭副处长,原来只是个副科长!

仕道
2026-07-11 20:46:17
曼晚:哈兰德世界杯表现优异疯狂吸粉,其商业价值持续攀升

曼晚:哈兰德世界杯表现优异疯狂吸粉,其商业价值持续攀升

懂球帝
2026-07-11 20:28:54
伊朗疑遭阿拉伯联军轰炸,以总理:攻击伊朗就像切除癌症

伊朗疑遭阿拉伯联军轰炸,以总理:攻击伊朗就像切除癌症

移光幻影
2026-07-11 16:56:30
62岁大爷每天踮脚尖30分钟,半年后检查,医生惊讶:你干了什么?

62岁大爷每天踮脚尖30分钟,半年后检查,医生惊讶:你干了什么?

芹姐说生活
2026-07-11 23:14:25
别再跟孩子拉扯玩手机时长!哈佛研究:断尾才是戒手机最优解

别再跟孩子拉扯玩手机时长!哈佛研究:断尾才是戒手机最优解

户外阿毽
2026-07-11 20:09:22
罕见!美媒主动点赞中国航天!独创网系回收技术,马斯克都看笑了

罕见!美媒主动点赞中国航天!独创网系回收技术,马斯克都看笑了

大卫聊科技
2026-07-11 12:32:26
2026-07-12 06:27:00
中科智媒
中科智媒
聚焦新闻前沿,每日热点速递
898文章数 11811关注度
往期回顾 全部

科技要闻

苹果起诉OpenAI系统性窃密,挖超400前员工

头条要闻

长沙通报体育局女干部占车位事件:涉事干部被停职

头条要闻

长沙通报体育局女干部占车位事件:涉事干部被停职

体育要闻

燃尽的比利时黄金一代,逃不过厄运诅咒

娱乐要闻

周星驰官宣星女郎 纯素人无拍戏经验

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

预售权益价11.78万起 五菱星光L将于7月16日上市

态度原创

本地
房产
亲子
时尚
公开课

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

房产要闻

重磅学校规划曝光!西海岸教育,正强得可怕!

亲子要闻

三伏天将至:如何让孩子养出好身体?

如果穿腻了黑色!不妨看看这些红色裙子,夏天穿时尚有女人味

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版