网易首页 > 网易号 > 正文 申请入驻

Jev响应快,为何加上它整个Agent反而更慢?

0
分享至

一个模型自己响应只要几百毫秒,把它塞进Agent流程后,整体延迟却从649ms涨到了1087ms。这是GitHub一项实验里出现的数字,也是围绕Jev最值得先弄清楚的一件事。

腾讯科技对TypeSafe推出的Jev做了一次底层拆解,结论并不客气:它继承了大语言模型的理解能力,但不生成文字,直接输出概率。这个思路本身并不新鲜,也很难称得上范式革新。


它到底改了什么

Jev的架构可以理解为对现有大模型的一次工程化改造。它保留了模型对问题的理解能力,去掉了自回归逐字生成文本的过程,直接给出判断概率。

具体做法上,它通过KV Cache实现状态共享,用注意力掩码或独立分支确保不同问题之间物理隔离,再通过指针头或候选间注意力模块让选项相互影响。这样做的结果是并行计算、直接出概率,速度上有优势。

但文章追溯了「预测判断」模型的历史后指出,Jev并非全新概念,而是基于BERT、RLHF等既有技术的演进。开源复刻项目Kev的出现,也让它的架构被还原得比较清楚。

校准很准,泛化很差

TypeSafe为Jev提出了RLCD,即面向校准决策的强化学习,目标是让模型输出真实世界事件的概率,而不是人类偏好。在校准误差上,Jev的表现确实亮眼,Archer Hume测试中仅为0.031。

但文章认为,这种能力主要来自数据合成与蒸馏技巧,并没有解决从「预测偏好」到「预测行动后果」的根本跨越。换句话说,它算得准,不代表它判断得对。

基准测试暴露了短板。在多步查找、长政策判断、时间数字比较这类困难任务上,Jev的准确率远低于DeepSeek V4.1 Flash等模型。它的判断还极易受信息呈现方式干扰,关键证据放在前面还是中间,结果会不一样。跨领域迁移时表现也不稳定。

这些表现指向同一个结论:Jev目前是一个专用判断模型,不是通用智能。

该用在哪,不该用在哪

文章给出的适用边界很明确。规则清晰、证据集中的高频简单决策,是Jev的舒适区,比如客服分流、意图路由这类标准明确的环节。

但放到复杂Agent流程里就要小心。如果引入Jev之后,仍然需要调用主模型做后续处理,双重调用会推高总延迟和成本,GitHub实验中延迟从649ms升到1087ms就是例子。

所以它更适合作为辅助组件,而不是替代主模型的决策核心。Jev自己响应快,不代表加上它以后整个Agent就更快。

文章最后的判断是:在证明它确实学到了某种通用的判断法则之前,让它戴上「范式革新」的王冠为时尚早。它确实是一个面对特定场景的优秀工程优化,但也仅此而已。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
13秒15!陈圆将夺亚运会男子110米栏冠军,刘俊茜摔倒退赛

13秒15!陈圆将夺亚运会男子110米栏冠军,刘俊茜摔倒退赛

全景体育V
2026-09-27 19:16:34
马克龙宣布:出兵!

马克龙宣布:出兵!

浙江之声
2026-09-25 13:22:19
汪小菲带玥儿度假!玥儿小脸变肉仪态超像大S,12岁身高已超170

汪小菲带玥儿度假!玥儿小脸变肉仪态超像大S,12岁身高已超170

趣味八卦
2026-09-26 22:09:22
陈婉珍与子女居家过中秋,何超莲晒大宅外部景观,楼高四层好气派

陈婉珍与子女居家过中秋,何超莲晒大宅外部景观,楼高四层好气派

小嵩
2026-09-27 09:43:47
16年美国夫妇收养贵州3岁女弃婴,用视频记录成长,10年变化惊人

16年美国夫妇收养贵州3岁女弃婴,用视频记录成长,10年变化惊人

凡知
2026-09-25 12:48:57
戚薇穿32斤3D打印水花裙现身活动,既坐不下也走不动路,被工作人员推上红毯……

戚薇穿32斤3D打印水花裙现身活动,既坐不下也走不动路,被工作人员推上红毯……

都市快报橙柿互动
2026-09-26 09:45:28
俞敏洪:如果拼了命,英年早逝的话,和不那么拼命,而活到八九十岁,看世界变化,我认为不那么拼命活八九十岁,是一件更加合算的事

俞敏洪:如果拼了命,英年早逝的话,和不那么拼命,而活到八九十岁,看世界变化,我认为不那么拼命活八九十岁,是一件更加合算的事

品读时刻
2026-09-10 09:07:58
不堪入目!国足U16艰难苟赢越南,张耀坤误人子弟

不堪入目!国足U16艰难苟赢越南,张耀坤误人子弟

中场阴谋家
2026-09-27 18:17:38
0-4惨败!女单4强全出炉!诞生3大不可思议,孙颖莎惊险过关,世界冠军无缘决赛!张本美和盼复仇

0-4惨败!女单4强全出炉!诞生3大不可思议,孙颖莎惊险过关,世界冠军无缘决赛!张本美和盼复仇

小七说篮球
2026-09-27 08:58:09
再见!锡安,媲美詹姆斯的天才陨落了……

再见!锡安,媲美詹姆斯的天才陨落了……

体育新角度
2026-09-26 16:09:44
万科裁员1.83万人

万科裁员1.83万人

地产微资讯
2026-09-26 10:36:05
中秋晚会主持翻车!全程不看镜头:观众一眼出戏 是提词器装错了?

中秋晚会主持翻车!全程不看镜头:观众一眼出戏 是提词器装错了?

陈意小可爱
2026-09-27 02:47:28
走树下都往身上掉,“北京毛毛虫”冲上热搜!华北一年可繁殖2-3代,北京市园林局:发现“虫情”可打12345

走树下都往身上掉,“北京毛毛虫”冲上热搜!华北一年可繁殖2-3代,北京市园林局:发现“虫情”可打12345

天下泉城
2026-09-27 17:47:49
今晚!让路亚运会,CCTV16直播国足VS新西兰,大连英博小将杨铭锐能否再次出场

今晚!让路亚运会,CCTV16直播国足VS新西兰,大连英博小将杨铭锐能否再次出场

晚池
2026-09-27 10:01:07
93岁游本昌睡梦中离去,最放心不下的是自己48岁老来得女的游思涵

93岁游本昌睡梦中离去,最放心不下的是自己48岁老来得女的游思涵

荆楚寰宇文枢
2026-09-25 22:44:07
周末消息大反转,周一开盘,行情要变天

周末消息大反转,周一开盘,行情要变天

魏家东
2026-09-27 09:08:55
衣不蔽体、医美成性,41岁戚薇会走到如今的境地,根本怪不了别人

衣不蔽体、医美成性,41岁戚薇会走到如今的境地,根本怪不了别人

卷史
2026-09-27 08:11:25
林诗栋/黄友政4-2击败日本组合,勇夺亚运乒乓球男双金牌

林诗栋/黄友政4-2击败日本组合,勇夺亚运乒乓球男双金牌

侧身凌空斩
2026-09-27 18:50:53
日媒不满张本智和态度!半天挤出一句:我只是没拿到金牌 仅此而已

日媒不满张本智和态度!半天挤出一句:我只是没拿到金牌 仅此而已

风过乡
2026-09-27 10:19:42
医生:高血压不怕咸菜、酱油,更不怕喝酒,真正怕的是你做7件事

医生:高血压不怕咸菜、酱油,更不怕喝酒,真正怕的是你做7件事

坠入二次元的海洋
2026-09-27 13:31:33
2026-09-27 20:16:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
207文章数 85关注度
往期回顾 全部

科技要闻

星舰第14飞,为什么准备绕地球六圈?

头条要闻

起底假核桃油公益助农骗局:售价39元主播一单抽成9元

头条要闻

起底假核桃油公益助农骗局:售价39元主播一单抽成9元

体育要闻

2-1!41岁魔笛世界波 克罗地亚欧国联开门红

娱乐要闻

刘欢去世后谣言四起,韩磊被翻旧账

财经要闻

“为了看短剧,我妈两年花了22万 ”

汽车要闻

MAZDA EZ-60激光版上市 焕新全系11.39万元起

态度原创

数码
本地
家居
旅游
公开课

数码要闻

雷神STATION系列AI工作站首发26999元:锐龙AI Max+ 395、128GB大内存

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

中秋假期主题游火爆 北京位列热门城市榜首

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版