网易首页 > 网易号 > 正文 申请入驻

苹果推出Ferret-UI Lite端侧AI模型:3B参数看懂复杂屏幕

0
分享至

IT之家 2 月 21 日消息,苹果研究团队在最新论文中,推出展示 Ferret-UI Lite 端侧 AI 模型,仅有 30 亿(3B)参数,却在性能上匹配甚至超越了体积大 24 倍的大型模型。

IT之家注:Ferret-UI Lite 是专为移动设备打造的多模态大语言模型(MLLM),参数量仅为 30 亿(3B),属于典型的“轻量级”模型,可以在算力有限的手机端,精准理解与操作复杂图形用户界面(UI)。


不过在多项基准测试中,Ferret-UI Lite 的性能不仅追平,甚至超越了参数量高达其 24 倍的大型服务器端模型。


在核心技术方面,通用大模型往往难以看清手机屏幕上微小的图标和文本,而 Ferret-UI Lite 通过引入“推理时裁剪(Inference-time Cropping)”技术解决了这一痛点。


模型在处理任务时,会先进行一次粗略预测,然后智能地“剪切”并放大相关区域,就像人眼凑近观察细节一样,再次进行精准识别。这种策略让小模型无需处理海量图像数据,也能捕捉到界面中的关键信息,从而更好理解屏幕元素。


在训练方面,研究团队为了解决高质量训练数据匮乏的问题,构建了一套合成数据生成系统。该系统包含“任务生成器”、“规划器”、“执行者”和“批评者”四个角色,让 AI 在模拟环境中不断尝试操作、犯错并自我修正。


这种机制不仅生成了海量训练样本,还让模型学会了如何应对现实操作中的错误与意外情况(如点击无反应或弹出干扰窗口),其效果远优于单纯依赖人工标注的清洁数据。

测试结果显示,该模型在执行短流程、基础 UI 操作时表现优异,但在处理复杂的多步长任务时仍有提升空间。

最重要的是,Ferret-UI Lite 能够完全在本地运行,无需将屏幕截图上传至云端服务器,这在赋予手机“自动操作 App”能力的同时,最大程度地保障了用户隐私。


IT之家附上参考地址

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
韩国“鸟叔”已被移交检察机关

韩国“鸟叔”已被移交检察机关

都市快报橙柿互动
2026-06-02 12:04:32
*ST闻泰演绎“天地板”走势

*ST闻泰演绎“天地板”走势

证券时报
2026-06-03 10:26:40
奥运冠军张家齐为啥跑广东找全红婵哥哥摘荔枝,背后原因让人破防

奥运冠军张家齐为啥跑广东找全红婵哥哥摘荔枝,背后原因让人破防

书写传奇
2026-06-03 15:58:21
潮汕火锅免单后续:4人身份被扒,是“惯犯”!被坑老板委屈哭诉

潮汕火锅免单后续:4人身份被扒,是“惯犯”!被坑老板委屈哭诉

火山詩话
2026-06-03 07:06:57
乌称遭俄大规模空袭至少10人死亡、约100人受伤!普京:这是他们自己的选择;泽连斯基曾多次警告称可能遭大规模袭击

乌称遭俄大规模空袭至少10人死亡、约100人受伤!普京:这是他们自己的选择;泽连斯基曾多次警告称可能遭大规模袭击

每日经济新闻
2026-06-03 09:49:32
毒性堪比砒霜!正大量上市,一旦发苦赶紧吐掉!医生:煮熟也有毒

毒性堪比砒霜!正大量上市,一旦发苦赶紧吐掉!医生:煮熟也有毒

垚垚分享健康
2026-05-31 10:20:13
罕见议会瘫痪事件!11比11票数僵局,杜特尔特弹劾案恐生变数

罕见议会瘫痪事件!11比11票数僵局,杜特尔特弹劾案恐生变数

阅微札记
2026-06-03 11:44:53
如果马寅初没有提出人口论,没有实施计划生育,如今我国会怎样?

如果马寅初没有提出人口论,没有实施计划生育,如今我国会怎样?

史之铭
2026-04-29 00:48:26
林彪准儿媳张宁:独子被水管工报复沉河,逃去美国当阔太后为何躲进深山当了道士?

林彪准儿媳张宁:独子被水管工报复沉河,逃去美国当阔太后为何躲进深山当了道士?

史海孤雁
2026-05-07 18:01:13
727亿运河贯通,西南内陆变沿海,南海格局改写

727亿运河贯通,西南内陆变沿海,南海格局改写

时光流转追梦人
2026-06-03 14:31:44
洋葱立大功!医生发现:洋葱或对3种慢性病有好处!可以常吃

洋葱立大功!医生发现:洋葱或对3种慢性病有好处!可以常吃

芹姐说生活
2026-05-25 14:19:45
紧急叫停!吃艾司唑仑的中老年,务必留心,三大好处,三大禁忌

紧急叫停!吃艾司唑仑的中老年,务必留心,三大好处,三大禁忌

健康科普365
2026-05-13 22:20:05
注意!中老年男性有性生活和没性生活,差别居然这么大?

注意!中老年男性有性生活和没性生活,差别居然这么大?

皓皓情感说
2026-04-22 08:20:32
沙坦类药物7种,只有2种不伤肝,选错小心肝损伤!

沙坦类药物7种,只有2种不伤肝,选错小心肝损伤!

药师方健
2026-06-02 22:46:28
午后突发跳水!明天,做好这个应对

午后突发跳水!明天,做好这个应对

钱眼
2026-06-03 20:39:13
人口大迁徙已是定局?明后年,越来越多人会流入这4座城市?

人口大迁徙已是定局?明后年,越来越多人会流入这4座城市?

空谷幽幽蓝
2026-05-28 20:33:01
我飞机上拒绝换座被一路骂,下飞机递出名片,他看后当场腿软

我飞机上拒绝换座被一路骂,下飞机递出名片,他看后当场腿软

晓艾故事汇
2026-06-02 09:41:12
中国工程院院士发布声明:均为不实信息

中国工程院院士发布声明:均为不实信息

TOP大学来了
2026-06-03 11:35:16
赫瓦林斯卡爆冷晋级四强,萨巴伦卡瑟瑟发抖

赫瓦林斯卡爆冷晋级四强,萨巴伦卡瑟瑟发抖

格斗社
2026-06-03 20:01:41
独家|多地银行正按要求适当加大信贷投放

独家|多地银行正按要求适当加大信贷投放

财联社
2026-06-03 17:30:16
2026-06-03 21:08:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
347766文章数 607267关注度
往期回顾 全部

科技要闻

传DeepSeek融资意向500亿:腾讯投100亿

头条要闻

一个月内两位院士候选人接连被查 均是科研专家

头条要闻

一个月内两位院士候选人接连被查 均是科研专家

体育要闻

选择中国品牌的库里,和他们的巨大野心

娱乐要闻

官方痛批乱象 刘涛郑恺等艺人遭点名

财经要闻

AI,开始偷懒了?

汽车要闻

专访蒋平:安全不做高低配 长安要让安全技术普惠

态度原创

数码
房产
旅游
本地
军事航空

数码要闻

全球首款UWB 8K键盘登场!CHERRY XTRFY K63W Pro发布

房产要闻

突发!254亩调规,海口江东的超级学校真的快来了!

旅游要闻

身份证32开头的速看!“东北老铁”家的39个景区对你免费开放

本地新闻

用杨柳青年画的方式,打开天津

军事要闻

媒体:美伊和谈以方却从中作梗 内塔尼亚胡有私人算计

无障碍浏览 进入关怀版