网易首页 > 网易号 > 正文 申请入驻

阿里发布Qwen-UI-Agent,主打让模型真正“会用”每一块屏幕

0
分享至

IT之家 8 月 20 日消息,据千问大模型官方公众号,阿里巴巴正式推出 Qwen-UI-Agent,一个以真实世界为中心的 GUI 智能体基座模型,涵盖移动端、电脑端、网页端以及深度搜索(DeepSearch)环境。

据介绍,Qwen-UI-Agent 在 GUI 任务上全面对标乃至超越业界旗舰模型:

  • 移动端: MobileWorld 82.1%,分别领先 GPT-5.6 Sol、Claude Opus 4.8、Seed 2.1 Pro 12.0、14.6、8.9 个百分点;真机基准 MobileWorld-Real 92.2%,超越 Gemini 3.1 Pro、Claude Opus 4.8、GPT-5.6 Sol、Seed 2.1 Pro ;AndroidDaily 高达 97.5%,接近满分。
  • 电脑端:OSWorld-Verified 79.5%,超越 GPT-5.5、Gemini 3.1 Pro、Seed 2.1 Pro;OSWorld-v2 Partial 分数 40.0%,同时相比基线节省 58% 执行步数。
  • 浏览器 & DeepSearch:WebArena 73.6%,位列所有对比模型第一;BrowseComp-ZH 75.0%。
  • GUI Grounding:ScreenSpot-Pro 81.5%,在其余 4 个 grounding 评测基准也全部刷新 SOTA。
  • 通用能力:通用和 Agentic 能力全面保持或超越训练基座模型,并在这两类任务上大幅领先 GUI 专用模型,从容应对真实世界的长尾需求。


Qwen-UI-Agent 搭建覆盖 100+ 台真实手机、150+ 应用的真机移动环境,用于任务构建、轨迹采集、模型训练与评测,并自建 MobileWorld-Real 真机基准 (400+ 任务、100+ 应用),打通“从模拟到真实”的最后一公里。

Prompt: 我今天约了朋友去天目里喝咖啡,帮我在高德搜索查看详细地址,打开大众点找附近 1 公里内的咖啡馆,找人气最高的那家记下店名,再去小红书总结前五条笔记,看看大家推荐这家店的哪款咖啡。


Prompt: 下周三我从北京回来,帮我看一下 12306 最早到杭州西的那班高铁几点到。然后查一下杭州西坐地铁到阿里巴巴西溪园区要多久,算一下我几点能到公司。最后在钉钉安排一个到达后整点的会议。主题写 " 出差归来项目同步 ",参会人选我和张三。开一个小时,设置提前 5 分钟提醒。


Prompt: 在手机相册中找到所有收据,将它们移动到远程桌面上的 receipts 文件夹,按日期重命名,并在该文件夹中创建一个 Excel 文件汇总账单。


Qwen-UI-Agent 将安全判断贯穿任务执行全过程:面对违法或高风险请求,它会不执行任何界面操作,直接拒绝并终止任务;面对支付、数据删除、隐私授权等敏感场景,则会在关键步骤主动停手,向用户说明情况,待获得明确确认后再继续。危险请求不执行,敏感操作不擅自决定,让模型既能执行,也懂得何时停手。

GUI 操作之外,模型还能直接执行命令行操作,并在单次决策中批量输出多个动作。在电脑任务中,CLI 动作占比近半,约 40% 动作以 batched actions 形式输出,大幅缩短执行轨迹、拓展能力边界、提升执行效率。比如跨网站调研产品、核对价格,生成比价方案。

其支持在超过 100 步的超长轨迹上进行在线 RL 训练,约 10000 个并发环境同时 rollout,配合模型自适应课程学习,持续攻克长程任务。

IT之家附上有关链接如下:

  • 技术报告:https://arxiv.org/abs/2607.28227
  • 项目主页:https://tongyi-mai.github.io/Qwen-UI-Agent
  • GitHub:https://github.com/Tongyi-MAI/MAI-UI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
从特区变成“特困”,曾和深圳同为特区,这个城市为何扶不上墙?

从特区变成“特困”,曾和深圳同为特区,这个城市为何扶不上墙?

史料布籍
2026-08-15 21:53:40
卡米拉首度回应查尔斯癌症诊断:病情棘手,沉默一月后吐露心声

卡米拉首度回应查尔斯癌症诊断:病情棘手,沉默一月后吐露心声

赴一场山海啊
2026-08-19 21:47:28
2亿投资,2179万首日:《空枪》用160分钟,证明了港式警匪真凉了

2亿投资,2179万首日:《空枪》用160分钟,证明了港式警匪真凉了

情感的我
2026-08-19 14:25:52
再遭暗算!俄罗斯!真的危险了!

再遭暗算!俄罗斯!真的危险了!

大嘴说天下
2026-08-19 21:40:03
销量暴跌超50%!手握三张王牌,阿维塔为何卖不动?

销量暴跌超50%!手握三张王牌,阿维塔为何卖不动?

象视汽车
2026-08-18 07:00:14
全球公认最耐用的十款轿车 1、丰田凯美瑞 2、丰田卡罗拉

全球公认最耐用的十款轿车 1、丰田凯美瑞 2、丰田卡罗拉

刘哥谈体育
2026-08-18 00:37:56
拒绝握手!19岁俄罗斯少女情绪又失控:被轰0-6 1-2输给乌克兰死敌

拒绝握手!19岁俄罗斯少女情绪又失控:被轰0-6 1-2输给乌克兰死敌

风过乡
2026-08-20 07:43:40
美国6分钟威胁:你敢签中国光缆,全家签证就没了

美国6分钟威胁:你敢签中国光缆,全家签证就没了

牛锅巴小钒
2026-08-19 10:37:46
王力宏讲述与宇树合作故事:演出前一晚机器人出现Bug,宇树团队通宵写代码解决

王力宏讲述与宇树合作故事:演出前一晚机器人出现Bug,宇树团队通宵写代码解决

新浪财经
2026-08-20 06:23:32
九合一选举进入百日倒计时,多地民调出炉,新北高雄关键“黄金交叉”

九合一选举进入百日倒计时,多地民调出炉,新北高雄关键“黄金交叉”

琴音缭绕回
2026-08-20 15:20:14
金价将重现历史?要有心理准备,8月,金价可能将复刻2015年历史

金价将重现历史?要有心理准备,8月,金价可能将复刻2015年历史

阿振观点
2026-08-20 06:00:58
潘展乐46秒40的世界纪录遭最强合围,欧锦赛百米自由泳前三全游进47秒,波波维奇以46秒56夺冠,对镜头比出“只差一丢丢”手势

潘展乐46秒40的世界纪录遭最强合围,欧锦赛百米自由泳前三全游进47秒,波波维奇以46秒56夺冠,对镜头比出“只差一丢丢”手势

黄谋仕
2026-08-20 18:21:16
裙子下面不一定要配高跟鞋,像戚薇、金靖这样穿,美得优雅又得体

裙子下面不一定要配高跟鞋,像戚薇、金靖这样穿,美得优雅又得体

时尚穿搭生活馆
2026-08-20 21:21:24
上海出台楼市“沪八条”,房地产板块狂拉!

上海出台楼市“沪八条”,房地产板块狂拉!

金融界
2026-08-20 14:28:23
培养出92个世界冠军的李永波,卸任后跑到国外种榴莲,如今咋样了

培养出92个世界冠军的李永波,卸任后跑到国外种榴莲,如今咋样了

皮皮电影
2026-08-20 14:30:16
精日分子跑去靖国神社“表忠心”,反被日本人当反日分子揍了

精日分子跑去靖国神社“表忠心”,反被日本人当反日分子揍了

不掉线电波
2026-08-18 14:09:23
地主赵浦珠曾和毛泽东一起当兵,晚年生活困难,主席寄上300元

地主赵浦珠曾和毛泽东一起当兵,晚年生活困难,主席寄上300元

南书房
2026-08-20 22:10:06
德黑兰突然沸腾了?中国关键一步落地,特朗普成了新版隆美尔?

德黑兰突然沸腾了?中国关键一步落地,特朗普成了新版隆美尔?

章幃户外
2026-08-20 12:59:49
59岁妮可·基德曼罕见晒天然卷发,冰岛全家游配文:一生一次的旅程

59岁妮可·基德曼罕见晒天然卷发,冰岛全家游配文:一生一次的旅程

浅遇时光
2026-08-20 18:22:37
统一真的要来了,解放军释放重磅信号,目标直指建军百年!

统一真的要来了,解放军释放重磅信号,目标直指建军百年!

音乐时光的娱乐
2026-08-18 02:16:27
2026-08-20 23:00:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
361761文章数 607454关注度
往期回顾 全部

科技要闻

快手Q2研发狂烧45亿:如何面对双面夹击

头条要闻

许家印被抓近三年后宣判 "卡点离婚"的丁玉梅不见踪影

头条要闻

许家印被抓近三年后宣判 "卡点离婚"的丁玉梅不见踪影

体育要闻

46岁小罗抵达意大利 将为拉文纳征战意丙

娱乐要闻

任重晒全家福官宣二胎喜讯

财经要闻

许家印被判处无期 恒大集团被罚88.2亿

汽车要闻

智能硬派越野方盒子 享界G9上市售42.98万起

态度原创

游戏
时尚
房产
数码
教育

《黑钟馗》画面逼真到离谱 外媒:这优化压力太大

阔腿裤+平底鞋:今年秋天最火搭配,松弛又好看!

房产要闻

265亿资产甩出!三亚老牌地产巨头,正在集体退场!

数码要闻

苹果iPhone热销带动三星OLED增长:上半年出货1.2亿片

教育要闻

‌“压岁钱是我的!”女儿手握10万,拒绝每月从里面出1000抵大学生活费:是自私还是清醒?

无障碍浏览 进入关怀版