网易首页 > 网易号 > 正文 申请入驻

阿里论文拆穿Agent缺陷:推理再堆时长,准确率仍不及人类一半

0
分享至

7月8日下午,阿里研究团队的一名成员把HSCodeComp基准的测试结果投到大屏上。画面停在一行对比数字上:表现最好的Agent系统准确率45%左右,人类专家95%。会议室里安静了几秒。就在同一天,ACL 2026将最佳资源论文奖颁给了这项研究,它从12148篇投稿中脱颖而出,成为国内唯一获此奖项的中国公司论文。

这一下戳中了一个很多人不愿面对的问题:当行业都在把Agent看作大模型落地的核心路径时,它在真实世界的复杂规则推理上可能远没我们想的那么可靠。该论文首次系统揭示了当前Agent在层级化规则遵循上的巨大缺陷,并提出了一个全新的专家Agent评测基准HSCodeComp。


正方的声音一直很清晰。过去一年多,不少团队相信只要把推理时的算力堆上去,让Agent多跑几轮思考,复杂任务的成功率就会稳步逼近人类水平。毕竟inference-time scaling在数学、编程等场景中带来了肉眼可见的提升,似乎只需更长的推理链,就能撞开专业决策的大门。

反方拿出的正是这份获奖论文的评测数据。研究团队用商品出口必须精准匹配的10位海关编码(HS Code)作为考题,要求Agent像资深关务专家一样,把模糊的商品属性对齐到严格的关税归类规则上。他们对14个主流大模型和9个先进Agent框架做了全面测试,结果最好的系统准确率也只有约45%,与人类专家的95%之间横着一条难以跨越的鸿沟。更关键的是,单纯增加推理时长几乎无法缩小这个差距。这直接把问题从“算力不够”扭转为“架构本身存在结构性瓶颈”。

论文进一步拆解了缺陷背后的三层原因。一是推理链过长后,Agent容易中偏离正确路径,就像一个人在冗长的流程中忘了最初的分支条件。二是领域知识不足导致规则误用,碰到相近但细节不同的归类条目时判断失准。三是推理幻觉让Agent生成缺乏事实依据的分类,表面上逻辑自洽,实际却踩中了规则红线。这三类问题环环相扣,指向一个结论:想让Agent胜任专业层级规则推理,光靠扩大推理规模远远不够。

阿里团队并没有止步于指出问题。他们在HSCodeComp基准上设计了一套以Qwen基座模型为核心的Agent框架,最终把10位编码准确率推到了65.0%,在现有AI系统中排名第一,并且已将数据集和评测代码在Hugging Face和GitHub上全面开源。这个成绩虽然离人类专家的95%还有不小距离,但它证明有针对性地重构Agent的规则对齐能力,是比堆时长更有效的路径。

ACL评审委员会在评语里点出了这项工作的分量:“该基准切中了Agent应用的高度重要挑战——考察Agent对严格层级化自然语言规则的遵循能力,研究动机极具说服力;严谨的人类专家评测流程提供了高度可靠的能力上界。”没有夸大的修饰,却把这项研究的定位说得明明白白:它给Agent的专业化能力画出了一条可量化的基准线。

阿里研究团队也给出了更宏观的判断:层级规则应用不仅是国际贸易里的核心需求,在法律合规、医疗诊断、税务审计等大量高价值垂直领域同样属于底层能力。这意味着HSCodeComp所揭示的能力边界不是某个细分场景的特例,而是Agent从“看起来好用”迈向“真正可靠”时必须跨越的一道坎。把这条基准线摆在台面上,比任何泛泛的技术承诺都更有价值。

回到开头那个大屏上的数字,45%与95%的落差其实给出了一个明确的产业信号:与其继续幻想用通用模型加长推理链就能吃遍所有专业场景,不如把注意力转向如何为不同领域的层级规则构建专门的评测与训练体系。阿里这篇获奖论文做的,就是把这种转向的必要性,用系统性的实验和开源的基准,钉在了所有人看得见的地方。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
悲哀!10人小群里剩自己“干净”,30岁女生称身体忠于丈夫被孤立

悲哀!10人小群里剩自己“干净”,30岁女生称身体忠于丈夫被孤立

番外行
2026-05-20 08:19:19
日本海面无头女尸身份确认:系中国籍45岁女子,警方:人为肢解并遗弃的可能性较高;其生前住在东京,以打零工为生

日本海面无头女尸身份确认:系中国籍45岁女子,警方:人为肢解并遗弃的可能性较高;其生前住在东京,以打零工为生

都市快报橙柿互动
2026-07-07 22:51:03
武汉那天,我坐第一排看了肖战3小时,30分钟后我删掉了所有拍的图

武汉那天,我坐第一排看了肖战3小时,30分钟后我删掉了所有拍的图

乡野小珥
2026-07-08 12:38:41
罗马诺:安帅与巴西足协将继续合作,备战下届美洲杯和世界杯

罗马诺:安帅与巴西足协将继续合作,备战下届美洲杯和世界杯

懂球帝
2026-07-08 17:30:15
梅西:劳塔罗登场后我们有两名前锋,我就去边路找空间

梅西:劳塔罗登场后我们有两名前锋,我就去边路找空间

林子说事
2026-07-08 08:51:18
淘汰赛0进球,葡萄牙国内开始算账,公开喊话C罗退位:该结束了

淘汰赛0进球,葡萄牙国内开始算账,公开喊话C罗退位:该结束了

冷峻视角下的世界
2026-07-08 22:25:41
名单公布!国乒8人出战WTT日本冠军赛,王楚钦孙颖莎5大核心缺席

名单公布!国乒8人出战WTT日本冠军赛,王楚钦孙颖莎5大核心缺席

乒谈
2026-07-09 00:35:27
汪小菲回应大S遗产分配!已为孩子设立信托,具俊晔未放弃继承

汪小菲回应大S遗产分配!已为孩子设立信托,具俊晔未放弃继承

萌神木木
2026-07-08 18:12:04
什么审美?看看姆巴佩的审美

什么审美?看看姆巴佩的审美

小鱼干影视
2026-07-02 09:00:09
湖南台女主持现状:多人辞职、边缘化、想回台,无人能当一姐

湖南台女主持现状:多人辞职、边缘化、想回台,无人能当一姐

蹲坑看世界
2026-07-04 19:26:18
美股期货全线跳水,芯片巨头盘前重挫,阿里飙涨11%,国际油价涨超5%,黄金直线跌破4100美元

美股期货全线跳水,芯片巨头盘前重挫,阿里飙涨11%,国际油价涨超5%,黄金直线跌破4100美元

21世纪经济报道
2026-07-08 17:30:09
冉莹颖自曝曾多次想离婚,光民政局都去了3次;此前邹市明被曝因创业失败导致中年返贫,两人卖掉所有房产,儿子一顿午餐39.5元

冉莹颖自曝曾多次想离婚,光民政局都去了3次;此前邹市明被曝因创业失败导致中年返贫,两人卖掉所有房产,儿子一顿午餐39.5元

都市快报橙柿互动
2026-07-06 16:52:44
北约秘书长吕特“告白”特朗普:我就是喜欢他,他对伊朗开战是对的,施压盟国提军费也是对的,北约还要买美国3000亿美元军火

北约秘书长吕特“告白”特朗普:我就是喜欢他,他对伊朗开战是对的,施压盟国提军费也是对的,北约还要买美国3000亿美元军火

每日经济新闻
2026-07-08 20:05:14
王宝强带女友参加婚礼!1米78身材抢尽风头,两人相恋8年仍未领证

王宝强带女友参加婚礼!1米78身材抢尽风头,两人相恋8年仍未领证

可乐谈情感
2026-07-08 14:15:30
跟队:阿森纳被告知,报价超过6000万镑可能足以签下吉马良斯

跟队:阿森纳被告知,报价超过6000万镑可能足以签下吉马良斯

懂球帝
2026-07-09 01:59:10
四川宜宾市高县半月内连发5级地震,专家:属震群型地震,无论震级大小都应紧急避险

四川宜宾市高县半月内连发5级地震,专家:属震群型地震,无论震级大小都应紧急避险

极目新闻
2026-07-08 12:49:36
震惊!一家长花近60万给孩子补习,结果成绩不理想,于是反手举报

震惊!一家长花近60万给孩子补习,结果成绩不理想,于是反手举报

火山詩话
2026-07-06 06:33:11
小米汽车6月零售销量34738辆,SU7批发量超2万

小米汽车6月零售销量34738辆,SU7批发量超2万

IT之家
2026-07-08 17:57:08
被大佬当“玩物”,孕期注射药物百次,最美 “三圣母”落魄至此

被大佬当“玩物”,孕期注射药物百次,最美 “三圣母”落魄至此

文刀贰
2026-07-02 23:19:57
鲍勃-迈尔斯游说詹姆斯加盟76人:这是你争冠的最佳机会

鲍勃-迈尔斯游说詹姆斯加盟76人:这是你争冠的最佳机会

懂球帝
2026-07-08 20:41:11
2026-07-09 08:43:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
270文章数 68关注度
往期回顾 全部

科技要闻

字节杀回来了!深度实测Seedream 5.0 Pro

头条要闻

龙卷风横扫湖北小镇2分钟 两人在室内被卷出屋外坠亡

头条要闻

龙卷风横扫湖北小镇2分钟 两人在室内被卷出屋外坠亡

体育要闻

阿根廷绝境重生,离不开这个罗!

娱乐要闻

鹿晗出轨?邓超出轨绯闻又被扒出

财经要闻

九部门:支持加快零售业创新发展

汽车要闻

MB.EA纯电架构/售价33.98万 全新奔驰纯电GLC鎏金版上市

态度原创

本地
旅游
数码
时尚
公开课

本地新闻

万斤西瓜免费吃,来河南顶“瓜瓜”

旅游要闻

走遍云南才发现,小小野生菌博物馆,藏着当地人几代人的生活!

数码要闻

暑期装机小心DDR4“消费陷阱”!锐龙5 9600X+单通道DDR5性价比完胜

今年流行的航海风、老钱风都离不开“这件单品”,怎么搭都好看

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版