网易首页 > 网易号 > 正文 申请入驻

让决策成为模型设计的起点!NUS推出原生System One架构

0
分享至

来源:市场资讯

(来源:新智元)


新智元报道

当任务的终点是决策,模型是否应该从决策本身出发?

从一组文档中找到相关证据,判断一项条件是否成立,或按照标准给出评分——许多语言模型请求最终需要的,不是一篇长答案,而是一个明确、可靠的判断。

System One模型正是面向这类需求:直接输出选择、概率或分数,而无需生成长篇推理文本。

然而,只考虑「直接给出答案」还不够。同一个问题,同一组答案,只是把选项换个顺序,模型的决定就应该改变吗?

再看另一个场景:用户想办理退款,系统却只提供「修改地址」「查询物流」「重置密码」三个选项。模型即使给出了明确的排序,排在第一位的那个,就一定是正确答案吗?

新加坡国立大学xML Lab的最新工作将这些问题放回架构设计的起点。


论文链接:https://arxiv.org/pdf/2610.18773

项目主页:https://liqiiiii.github.io/Jeva/

GitHub:https://github.com/LiQiiiii/Jeva

模型:https://huggingface.co/LIQIIIII/Jeva-4B


图 1|Jeva的架构与四项结构特性。上方为架构对比,下方为直观示意;原论文图1。

决策模型应该具备哪些基本能力?

Jeva关注的不是某一个任务上的专门技巧,而是不同决策任务共同需要的四项结构特性。

Null-aware|没有合适答案,也是一种答案

「最好的选项」不等于「合适的选项」。假设用户需要办理退款,但候选只有修改地址、查询物流和重置密码:即使其中一个得分最高,也不意味着它能解决问题。Jeva将「是否存在可接受的候选」与「候选之间谁更好」分开判断,为答案缺席提供明确的null输出,而不是强行选出一个。

Permutation-invariant|换顺序,不换判断

同一组候选,从A、B、C改排为C、A、B,不应改变它们本身的含义。Jeva按候选集合进行对称聚合,并以同一规则打分,让概率跟随候选身份,而非列表位置。真正需要关心的不是模型是否仍然选择「第二项」,而是它是否仍然选择同一个答案。

Option-scalable|选项变多,决策方式不变

候选可能是十几个标签,也可能是上千份文档。Jeva为每个候选应用共享的评分规则,无需为新增候选扩展一套固定的答案符号。在论文的大候选实验中,它直接处理完整集合,而不需要通过多轮淘汰逐步缩小范围。

Cacheable|复用选项的计算,不复用旧答案

文档、政策条款和评分标准往往比用户问题更稳定。Jeva可以保留这些选项的计算结果,在问题变化、候选重新组合时继续使用;当前请求的判断仍然重新执行。缓存的是可复用的信息,不是上一次的结论。

四项特性不是互不相干的功能清单,而是同一种决策架构需要共同回答的问题。

Jeva如何把这些要求变成架构?

Jeva将「理解文本」与「作出当前判断」分开:共享编码器分别表示请求和选项,轻量决策模块再读取整个候选集合,只更新请求状态。由此,选项表征保持可复用,判断则随当前问题和候选内容更新。

先让候选集合参与判断

分别编码不等于独立打分。如下图所示,固定初始请求状态和候选A、B,仅将第三个候选从C₊换成C₋,就能使更新后的状态改变方向,让偏好从A转向B。

这一构造表明,单个决策块已能表达集合相关偏好;相比之下,仅依赖请求与单个候选的独立评分,无法因第三个候选的变化而反转A、B的相对排序。


图2|固定选项,变化的偏好。(a)保持A、B和初始状态不变,替换第三个候选;(b)请求状态沿不同方向更新;(c)A、B的分数差由正变负;原论文图3。

换位置,不应改变判断;换了可供选择的内容,判断则可以随之调整。

再区分「谁更好」与「有没有合适答案」

得到候选分数后,还需判断整组选项是否适用。Jeva用q描述候选之间的相对偏好,用覆盖概率ρ估计是否存在合适答案,再合成为包含null的完整分布p。

下图上半部分把两个候选的分数同时降低相同幅度:相对概率仍为73%和27%,覆盖概率却从88%降至12%,null概率随之升高。下半部分固定已有分数,加入一个低于现有最高分的候选:覆盖概率保持不变,候选之间的概率重新分配。


图3|相对偏好与答案是否存在,分别判断。(a)同幅降低候选分数,q不变,覆盖概率ρ下降;(b)固定已有分数加入低分候选,ρ不变,完整分布p中的候选概率重新分配;原论文图4。

最后,把不变的选项计算复用起来

上述状态更新和输出计算随请求执行,选项的语义表征及其层投影则可以缓存。模型、决策类型与编码设置固定时,新请求能够取出这些记忆,重新组成当前候选集。

下图中,第一次处理A、B、C,需要准备三个选项;第二次面对B、C、D,只需新增D;第三次使用A、C、D,三个选项均可复用。每次仍重新编码请求,并计算当前判断。


图4|新请求、新组合,复用已有候选。三组候选依次为ABC、BCD、ACD,单选项缓存命中为0/3、2/3、3/3;原论文图5。

同一套计算支持Choice、Noul和Score。面对「生产登录页返回HTTP 503,所有客户无法登录或完成购买」的报告,三种输出可分别回答下表中的问题。其中,Noul返回命题为真的概率,null则表示没有合适候选。


实验验证

论文中的Jeva-4B使用Qwen3.5-4B骨干和一个决策块。评估从任务质量出发,同时检查答案缺席、选项重排和候选规模增长等结构性问题。

「都不适用」,能不能被直接识别出来?

研究团队在BANKING77上构造了3,080个匹配请求,每个请求提供16个候选,其中包含588个答案缺席的情况。Jeva的null检测AUROC达到98.66%,高于对照中的KEV-BF16(93.61%)、InternDecision-4B(84.27%)和JevK5(79.44%)。

AUROC衡量的是模型在不同阈值下区分「有答案」与「无答案」的整体能力。更直观地看,在把约5%的有答案请求误判为无答案的阈值下,Jeva能识别约94%的答案缺席请求。

开场中那个退款问题,由此对应到一个明确的实验目标:模型不仅要排出名次,还要识别整组选项都不适用的情况。

同一个问题,换个顺序还会改答案吗?

顺序实验则固定问题和候选内容,仅改变候选排列。在600个Choice样本上,研究团队测试原始顺序、倒序,以及最多三种随机排列,再按候选身份对齐结果。

Jeva没有出现决策翻转,原始准确率与「每种测试顺序下都答对」的准确率均为76.67%。对照中,Jev-1.13.0、InternDecision-4B和JevK5的翻转率分别为17.00%、22.67%和26.17%。


图5|左:识别答案缺席的ROC曲线,越接近左上方越好。右:原始准确率与所有测试顺序下均正确的准确率;两者的间隔显示顺序变化带来的影响;截取自原论文图6(b,c)。

这两组实验把「可靠地作选择」拆得更具体:选项不合适时能够拒绝,选项仅仅换了位置时则保持判断稳定。

选项不断增多时,能进行原生且有效的扩展吗?

当候选数量不断增加,新的问题出现了:模型是在真正比较完整集合,还是只能把它拆成很多轮小型选择?

论文的ToolRet诊断中的请求分布在32至2,048个候选的六组设置中。Jeva支持全部请求;候选文本可以分批编码,准备好之后,完整集合仍在同一次决策头计算中参与比较。

在2,048个候选的设置下,Jeva准确率为69.88%,单张H200上的请求中位延迟为12.04秒。采用递归选择的JevK5准确率为67.47%,中位延迟约28.35秒:Jeva在这一设置中同时取得更高准确率与约2.35倍的速度优势。


图6|上:准确率。中:请求中位延迟,虚线为Jeva的旧分批设置,7.85×对应同一模型的分批优化收益。下:可处理请求的比例。各候选数组使用不同问题,准确率仅比较完整支持的设置;原论文图8。

更关键的问题是:对同一个问题,逐渐加入更多候选,模型能否持续答对?为此,论文固定83个问题,将每个问题的候选集从32个逐步扩展至2,048个。


图7|每一列是同一个问题,每一行对应不同候选数量。彩色格表示答对;原论文图7。

Jeva在所有测试规模下都答对了其中58个问题,JevK5为48个,CLM为7个。相比只看某一个规模的准确率,这项实验更直接展示了候选集合扩大时,正确决策能保留多少。

问题在变,为什么要重复理解同一份文档?

检索中的长文档、业务系统中的政策条款、评估任务中的评分标准,都可能被许多不同请求反复使用。候选越长,候选数量越多,重复编码的代价越值得关注。Jeva的复用不仅面向完全相同的候选集合,也支持从缓存中取出已有选项,组成新的集合。

在论文的MLDR长文档实验中,面对新组合的候选集,当候选全部已经缓存时,请求中位延迟从约2.10秒降至75.1毫秒,相当于27.98倍加速;不同缓存条件下未观察到决策改变。


图8|上:不同候选复用比例下的加速;中:共享候选库的请求延迟;下:避免重复编码的候选比例;原论文图9。

一句话总结

Jeva将答案缺席识别、顺序不变性、候选扩展和计算复用统一到模型设计中。它的核心可以概括为:

让决策的基本原则,成为架构的内在能力。

Decision principles, built into the architecture.

Jeva提供的不只是更快的一次推理,而是一种设计视角:把候选集合、答案缺席和计算复用视为决策本身的结构,让架构从一开始就为这些需求而设计。

参考资料:

https://arxiv.org/pdf/2610.18773

编辑:LRST

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
警报拉响!台海逼近临界点,两大迹象坐实大陆要动真格

警报拉响!台海逼近临界点,两大迹象坐实大陆要动真格

井普独白
2026-10-26 13:39:27
越闹越大!陈宇昕事件不会结束,他母亲到底是谁

越闹越大!陈宇昕事件不会结束,他母亲到底是谁

平老师666
2026-10-25 15:24:54
经济日报的评论,替一个断掉的踏板撑腰

经济日报的评论,替一个断掉的踏板撑腰

鲁先生的笔
2026-10-19 23:29:24
《伟大的长征》刘湘的惊人判断:给红军的活路,就是给自己的活路

《伟大的长征》刘湘的惊人判断:给红军的活路,就是给自己的活路

磊子讲史
2026-10-23 17:44:45
“都绝户了,还拼命挣钱干嘛?”看见父亲50岁就躺平,我崩溃了

“都绝户了,还拼命挣钱干嘛?”看见父亲50岁就躺平,我崩溃了

素十三儿
2026-04-13 07:12:36
大连英博如果逆袭成都蓉城,夺得中超冠军,是不是史上最水联赛冠军

大连英博如果逆袭成都蓉城,夺得中超冠军,是不是史上最水联赛冠军

体育大学僧
2026-10-26 10:01:43
苹果刀法依然精准!iPad mini 8顶配才是满血A20 Pro芯片

苹果刀法依然精准!iPad mini 8顶配才是满血A20 Pro芯片

快科技
2026-10-27 00:48:19
兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

铭记历史呀
2026-09-20 16:15:46
西方为何集体“反华”?俄学者一语点破,关键在于中国做了2件事

西方为何集体“反华”?俄学者一语点破,关键在于中国做了2件事

寂寞染指悲伤
2026-10-08 19:19:36
埋汰人!昔日世界级边锋无球可踢,西甲劲旅如今只肯给他1万镑周薪

埋汰人!昔日世界级边锋无球可踢,西甲劲旅如今只肯给他1万镑周薪

零度眼看球
2026-10-26 08:39:37
梅西净资产73.8亿,是现役仅有的四位亿万身家运动员之一

梅西净资产73.8亿,是现役仅有的四位亿万身家运动员之一

情感大头说说
2026-10-26 13:39:47
身高暴涨17cm、体重增10kg,全红婵为何拆掉十年动作后反而夺金?

身高暴涨17cm、体重增10kg,全红婵为何拆掉十年动作后反而夺金?

可乐谈情感
2026-10-27 01:52:08
骑行爱好者:骑行裤里肯定不穿内裤,就和游泳不穿内裤一个道理

骑行爱好者:骑行裤里肯定不穿内裤,就和游泳不穿内裤一个道理

映射生活的身影
2026-08-16 14:52:03
聪明人已经开始转钱了!2026年存钱大变局,很多人还不懂

聪明人已经开始转钱了!2026年存钱大变局,很多人还不懂

别人都叫我阿腈
2026-10-26 11:46:43
一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

LULU生活家
2026-10-24 14:40:06
六轮投票没结果!欧尔班参选联合国秘书长?美媒:中美俄一致支持

六轮投票没结果!欧尔班参选联合国秘书长?美媒:中美俄一致支持

孤单是寂寞的毒
2026-10-26 13:54:43
演了半辈子坏人,曾吃垮王千源的烧烤摊,52岁被张译签下大红大紫

演了半辈子坏人,曾吃垮王千源的烧烤摊,52岁被张译签下大红大紫

墨策史
2026-10-26 12:02:04
安东尼奥国奥选人掀桌:零三零四老队员全不留!

安东尼奥国奥选人掀桌:零三零四老队员全不留!

林子说事
2026-10-27 01:04:08
脚踝重伤不忍直视!申京为杰伦·威廉姆斯祈祷

脚踝重伤不忍直视!申京为杰伦·威廉姆斯祈祷

绿茵狂热者
2026-10-27 05:34:07
U17世界杯奇迹!0-3输中国女足后,鱼腩大逆袭:靠1个净胜球出线

U17世界杯奇迹!0-3输中国女足后,鱼腩大逆袭:靠1个净胜球出线

陌识
2026-10-27 00:31:43
2026-10-27 05:51:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5203325文章数 9862关注度
往期回顾 全部

科技要闻

苹果发iPad mini 8:5499元起售 配A20 Pro

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

体育要闻

13年后重回诺坎普,穆里尼奥又滑跪了

娱乐要闻

胡歌杨幂刘诗诗袁弘陈龙结伴去埃及

财经要闻

卢锋:全球失衡背后 大国博弈与多边治理

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

房产
健康
数码
教育
时尚

房产要闻

海甸岛26万人,还缺一个年轻人“待得住”的地方

痘痘能根治吗?皮肤科医生说实话

数码要闻

苹果把TechWoven编织面料引入iPad mini 智能保护套售价79美元

教育要闻

“得奖学金,绝不跟父母说!”大学生与家长聊天截图,看得人心里拔凉,网友们怒吼

围巾,女人气质的延伸

无障碍浏览 进入关怀版