网易首页 > 网易号 > 正文 申请入驻

苹果推出的视频识别模型:FastVLM,让AI有了眼睛

0
分享至

就在最近苹果更新了一个新的模型,叫做FastVLM,是开源的,还只有7B,显存占用不到10多个GB,这个模型在依靠阿里Qwen2-7B做出更深度的训练。

这个模型最大的突破就是识别视频流,在算法层面上,论文指出其准确度都是最高

这个模型的生成原理如下,通过将视频将一阵一阵的图像进行处理,并且通过提取每一帧图像的特征再来汇总最后在第五步的时候将特征汇总,然后再通过文本向量数据库将其结果与其匹配。

这个模型不仅还可以在原生手机客户端运行,还能够支持web浏览器,可以精准的识别现实物理世界的物品、字体、甚至是内容含义,让开发者可以快速调用。

相较于其他AI产品经理,这个视觉生成模型最好的是提供了视觉一体化的方案,并且由于更低的延迟,可以大大增加在应用场景的使用,用户不需要等待太长时间,同时又不需要太多算力。

这个模型的参数只有7B,有用户测试在16GB的M2就可以完成测试。

AI模型的端到端离线,是用户的刚需

相较于其他模型,这个7B的模型也支持离线,保证了数据隐私和安全,并且这个模型支持高分别率图像理解,并且还能够支持图像与文本之间的关系,以及前面介绍的视频理解。

并且模型是最合适在MR与AR眼镜上,并且通过可以通过视觉能力能够在眼镜上,有了FastVLM就可支持拓展到RAG,从而支持更多场景,比如疾病诊断、生活打扫等场景,甚至是用到机器人视觉上。

因为本质上模型还是需要向量数据库,通过将视频转为文本之后再和RAG搭配就可用得到更多场景。

目前生成速度可以将2小时的视频字幕,在几秒内生成,如下是我做的视频生成测试,将手里拿着的瓶子进行识别,就可以得到可乐,即使瓶子不完整

在AI模型跑到端里,手机、平板电脑都可以使用,那么就可以让更多用户使用,而不是受限于GPU算力,从未来来看每个人都将使用AI,算力的要求都会逐步降低,达到人类可以用的智力水平,而更多的算力将用户解决普通人几乎不会涉及到的场景与问题。

因此,我建议AI产品经理收藏这个模型,并且可以基于此来优化做自己的产品设计。

今天的分享就到这里。

“关注我,了解第一批空间计算的产品经理做什么”

点击加入XR空间计算开发者、产品经理交流群

AI开源项目拆解群,以及每天体验1款APP

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品。

在这里你可以随时查询到你想找的各类竞品行业APP以及我收集整理的开源Github项目,马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回

报名后添加星球助理

PMTalk123

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被骗160万,中国老板把日本公司挂闲鱼!被7万人围观后,对方慌了

被骗160万,中国老板把日本公司挂闲鱼!被7万人围观后,对方慌了

行者聊官
2026-03-30 12:46:28
央国企降薪第一刀:取消证书补贴

央国企降薪第一刀:取消证书补贴

新浪财经
2026-03-30 04:41:15
本月开始中国或将迎来4大涨价潮:除油价以外,这4类也要涨价了

本月开始中国或将迎来4大涨价潮:除油价以外,这4类也要涨价了

混沌录
2026-03-28 15:49:05
美媒定论:特朗普已无法恢复政治地位,他的总统任期实质上已结束

美媒定论:特朗普已无法恢复政治地位,他的总统任期实质上已结束

兰妮搞笑分享
2026-03-30 13:28:47
张兰被判欺诈性转移资产,价值2910万美元名画遭美国法院扣押!

张兰被判欺诈性转移资产,价值2910万美元名画遭美国法院扣押!

经理人杂志
2026-03-30 13:50:45
云南一大爷给脑瘫儿子娶智障儿媳,生下一对健康孙,3年后崩溃不已

云南一大爷给脑瘫儿子娶智障儿媳,生下一对健康孙,3年后崩溃不已

清茶浅谈
2025-04-01 21:30:59
兄弟俩联手创办苏宁,如今弟弟千亿资产清零,哥哥却走上另一条路

兄弟俩联手创办苏宁,如今弟弟千亿资产清零,哥哥却走上另一条路

鲸探所长
2026-03-24 14:38:04
退休党员注意!党费就按这个标准,别乱交、别多交

退休党员注意!党费就按这个标准,别乱交、别多交

娱乐的硬糖吖
2026-03-29 18:01:00
一人睡遍整个娱乐圈?司晓迪打响了2026年第一炮

一人睡遍整个娱乐圈?司晓迪打响了2026年第一炮

阅毒君
2026-01-05 07:05:06
睡觉时总在凌晨3、4点醒来,医生直言:一般提示3大疾病,别忽视

睡觉时总在凌晨3、4点醒来,医生直言:一般提示3大疾病,别忽视

健康之光
2026-03-30 13:18:26
美国迟迟不下场,阿联酋牵头闯霍尔木兹海峡,伊朗做出重大决定

美国迟迟不下场,阿联酋牵头闯霍尔木兹海峡,伊朗做出重大决定

兵器海陆空视频
2026-03-30 19:36:39
南京男子回家迫不及待抱住妻子,结果家中鹦鹉一开口,让他崩溃!

南京男子回家迫不及待抱住妻子,结果家中鹦鹉一开口,让他崩溃!

白云故事
2025-03-14 19:05:07
“北京的职高女,也不过是职高女!”一段演讲视频,被全网嘲笑

“北京的职高女,也不过是职高女!”一段演讲视频,被全网嘲笑

妍妍教育日记
2026-03-30 17:53:32
申京36+14+7火箭大胜送鹈鹕5连败,杜兰特20+6穆雷19分

申京36+14+7火箭大胜送鹈鹕5连败,杜兰特20+6穆雷19分

湖人崛起
2026-03-30 09:25:00
中东危机只是小菜?更大危机还在后面,外媒:中国将彻底颠覆战场

中东危机只是小菜?更大危机还在后面,外媒:中国将彻底颠覆战场

叹知
2026-03-29 18:13:46
纪实:99年,河北一女死刑犯在狱中离奇怀孕,只因长得太美

纪实:99年,河北一女死刑犯在狱中离奇怀孕,只因长得太美

小月文史
2025-03-19 15:45:52
8天7个涨停板!股民:妖股让人惊喜连连!

8天7个涨停板!股民:妖股让人惊喜连连!

数据挖掘分析
2026-03-30 15:15:57
1982年血色使馆:中国外交官唐健生为了生存杀光了所有同事

1982年血色使馆:中国外交官唐健生为了生存杀光了所有同事

阿校谈史
2026-03-20 11:03:27
小偷盗车摔残反索赔,一审判车主赔11万,网友怒喊:这判决太寒心

小偷盗车摔残反索赔,一审判车主赔11万,网友怒喊:这判决太寒心

今朝牛马
2026-03-29 23:38:07
恐无缘世界杯!利物浦9000万神锋3次吐饼 单刀不传让拜仁巨星暴怒

恐无缘世界杯!利物浦9000万神锋3次吐饼 单刀不传让拜仁巨星暴怒

我爱英超
2026-03-30 06:59:54
2026-03-30 20:11:00
Kevin改变世界的点滴 incentive-icons
Kevin改变世界的点滴
每周一次,产品案例与经验分享
278文章数 20关注度
往期回顾 全部

科技要闻

一句谎言引发的硅谷血案

头条要闻

河南女子举报母亲去世后被结婚 官方通报

头条要闻

河南女子举报母亲去世后被结婚 官方通报

体育要闻

想进世界杯,意大利还要过他这一关

娱乐要闻

单依纯凌晨发长文道歉!李荣浩再回应

财经要闻

本轮地缘冲突,A股凭什么走出独立行情

汽车要闻

理想i9要来了!外形似小号MEGA 能冲击高端纯电市场?

态度原创

数码
本地
健康
游戏
公开课

数码要闻

性能最强的锐龙AI 9 H 465轻薄本!华硕无畏Pro16锐龙版2026评测

本地新闻

用Color Walk的方式解锁城市春日

干细胞抗衰4大误区,90%的人都中招

生化9格蕾丝3D区神图!马甲线南半球 里昂成无能丈夫

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版