网易首页 > 网易号 > 正文 申请入驻

苹果推出Ferret-UI Lite端侧AI模型:3B参数看懂复杂屏幕

0
分享至

IT之家 2 月 21 日消息,苹果研究团队在最新论文中,推出展示 Ferret-UI Lite 端侧 AI 模型,仅有 30 亿(3B)参数,却在性能上匹配甚至超越了体积大 24 倍的大型模型。

IT之家注:Ferret-UI Lite 是专为移动设备打造的多模态大语言模型(MLLM),参数量仅为 30 亿(3B),属于典型的“轻量级”模型,可以在算力有限的手机端,精准理解与操作复杂图形用户界面(UI)。


不过在多项基准测试中,Ferret-UI Lite 的性能不仅追平,甚至超越了参数量高达其 24 倍的大型服务器端模型。


在核心技术方面,通用大模型往往难以看清手机屏幕上微小的图标和文本,而 Ferret-UI Lite 通过引入“推理时裁剪(Inference-time Cropping)”技术解决了这一痛点。


模型在处理任务时,会先进行一次粗略预测,然后智能地“剪切”并放大相关区域,就像人眼凑近观察细节一样,再次进行精准识别。这种策略让小模型无需处理海量图像数据,也能捕捉到界面中的关键信息,从而更好理解屏幕元素。


在训练方面,研究团队为了解决高质量训练数据匮乏的问题,构建了一套合成数据生成系统。该系统包含“任务生成器”、“规划器”、“执行者”和“批评者”四个角色,让 AI 在模拟环境中不断尝试操作、犯错并自我修正。


这种机制不仅生成了海量训练样本,还让模型学会了如何应对现实操作中的错误与意外情况(如点击无反应或弹出干扰窗口),其效果远优于单纯依赖人工标注的清洁数据。

测试结果显示,该模型在执行短流程、基础 UI 操作时表现优异,但在处理复杂的多步长任务时仍有提升空间。

最重要的是,Ferret-UI Lite 能够完全在本地运行,无需将屏幕截图上传至云端服务器,这在赋予手机“自动操作 App”能力的同时,最大程度地保障了用户隐私。


IT之家附上参考地址

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
长沙彭女士栽了!男友雷某某也难逃一劫,体育局春秋笔法惹众怒

长沙彭女士栽了!男友雷某某也难逃一劫,体育局春秋笔法惹众怒

天天热点见闻
2026-07-18 16:34:33
军校跌麻了!低分考生赢了!

军校跌麻了!低分考生赢了!

勋哥教你填志愿
2026-07-17 10:19:01
服务员帮黄总搭讪女生后续,生意黄了仅开胃菜,更严重的还在后面

服务员帮黄总搭讪女生后续,生意黄了仅开胃菜,更严重的还在后面

社会日日鲜
2026-07-18 17:55:34
底层的戾气越来越重了。

底层的戾气越来越重了。

老陆不老
2026-07-19 09:07:40
英格兰记者赛后挖苦阿根廷经济遭群嘲:失业率高、通胀三位数,足球是他们唯一拥有的东西

英格兰记者赛后挖苦阿根廷经济遭群嘲:失业率高、通胀三位数,足球是他们唯一拥有的东西

温柔且自由
2026-07-19 00:44:26
热火双榜第一!詹姆斯真要重回迈阿密?可联手字母哥冲生涯第五冠

热火双榜第一!詹姆斯真要重回迈阿密?可联手字母哥冲生涯第五冠

罗说NBA
2026-07-19 05:28:08
中央巡查组将再出动!24个中央考核巡查组,将赴各地明查暗访!

中央巡查组将再出动!24个中央考核巡查组,将赴各地明查暗访!

细说职场
2026-07-18 22:04:37
评分完美10分!姆巴佩心酸:宁愿不要射手王的虚名,我更想踢决赛

评分完美10分!姆巴佩心酸:宁愿不要射手王的虚名,我更想踢决赛

风过乡
2026-07-19 07:40:16
迫于决赛两队压力!国际足联被迫妥协,中场秀从30分钟砍至11分钟

迫于决赛两队压力!国际足联被迫妥协,中场秀从30分钟砍至11分钟

夜白侃球
2026-07-19 10:09:10
冉莹颖越扒越有:败光2亿、给儿打激素,天价鞋只是冰山一角!

冉莹颖越扒越有:败光2亿、给儿打激素,天价鞋只是冰山一角!

橙星文娱
2026-07-19 09:26:45
前体操冠军吴柳芳回应“编制被别人顶替”:她确实比我早去两三年,因家里原因我才辞去了工作

前体操冠军吴柳芳回应“编制被别人顶替”:她确实比我早去两三年,因家里原因我才辞去了工作

极目新闻
2026-07-19 10:21:49
杭州黄总现身!“黄总邀请你去包厢”事件迎来大结局,多部门联合调查后,女方同意和解

杭州黄总现身!“黄总邀请你去包厢”事件迎来大结局,多部门联合调查后,女方同意和解

火山詩话
2026-07-19 06:48:15
7月19日,人社部、财政部关于2026年上调退休养老金的通知,现在有正式公布吗?

7月19日,人社部、财政部关于2026年上调退休养老金的通知,现在有正式公布吗?

小谈食刻美食
2026-07-19 08:42:52
阿根廷足协:国家队回国,20日至21日所有比赛暂停

阿根廷足协:国家队回国,20日至21日所有比赛暂停

懂球帝
2026-07-19 02:57:21
40℃高温120码连开3小时,油车随便造 电车扛不扛得住?实测说真话

40℃高温120码连开3小时,油车随便造 电车扛不扛得住?实测说真话

阿芒娱乐说
2026-07-19 04:28:48
美加墨世界杯明晨上演终极之战:绝境之矛 VS 不败之盾,谁能笑到最后?

美加墨世界杯明晨上演终极之战:绝境之矛 VS 不败之盾,谁能笑到最后?

新民晚报
2026-07-19 12:40:12
开化县蓝天救援队队长因车祸离世,年仅36岁,队友:他经济条件不算多好,但很有责任感

开化县蓝天救援队队长因车祸离世,年仅36岁,队友:他经济条件不算多好,但很有责任感

极目新闻
2026-07-19 15:46:10
伊朗突发地震

伊朗突发地震

新浪财经
2026-07-19 13:31:22
梅西决赛前夜发布感人信息:无论明天发生什么,这支球队已书写历史

梅西决赛前夜发布感人信息:无论明天发生什么,这支球队已书写历史

全景体育V
2026-07-19 11:00:00
红遍大江南北的刘欢,嗜酒如命患上不死癌症,早已走上一条不归路

红遍大江南北的刘欢,嗜酒如命患上不死癌症,早已走上一条不归路

打小我就醜
2026-07-19 01:05:10
2026-07-19 17:24:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
355716文章数 607376关注度
往期回顾 全部

科技要闻

Kimi K3单项登顶 整体落后前沿模型2-3个月

头条要闻

赔钱也不愿为"台独"牺牲 近15年台军逾4000人提前退伍

头条要闻

赔钱也不愿为"台独"牺牲 近15年台军逾4000人提前退伍

体育要闻

世界杯决赛,从“澡盆德比”500年前讲起

娱乐要闻

全网都心疼邹市明,再逼他支棱了

财经要闻

任泽平VIP会员自称爆仓巨亏千万

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

时尚
家居
旅游
本地
军事航空

伊姐周六热推:电视剧《雀骨》;电影《功夫女足》......

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

美丽中国行丨万物比邻 各得其乐!看三江源国家公园的动人风景

本地新闻

十年了,为什么鬼怪CP还能让人美美嗑上?

军事要闻

两名美军被伊朗炸死 特朗普:令人难过

无障碍浏览 进入关怀版