做智能体的人大概都遇到过这种别扭:系统明明只需要从几个已知选项里挑一个,却要先让模型写一段推理文字,再回头把这段文字解析成工具调用或路由结果。生成了一大段话,最后只用到其中一个词。
NaceAI 发布的 Drex,想砍掉的就是这一步。据其介绍,这是一个参数规模不到 6B 的决策模型,输出的是每个可用选项的概率,而不是一段生成文本。
![]()
一次前向,直接给出选项概率
按照 NaceAI 的描述,Drex 的工作方式是:事实输入,一次前向计算,输出每个可用选项对应的概率。中间没有推理段落要生成,也就没有后续把文本解析回工具调用或路由决策的环节。
这个差别落在具体场景里就很实在。智能体路由、工具选择、重排序、策略检查,这些任务的共同点是——系统最终必须从一组已知选项里做出选择。既然答案本来就是一个选项,生成散文就成了多余的计算。
NaceAI 也明确把 Drex 定位在这类工作负载上。
![]()
生成不是目的,决策才是
这条思路背后是一个常被忽略的判断:如果需要的输出本身就是一个决策,那么生成过程可能是不必要的算力开销。
多数智能体技术栈习惯用生成式模型来承担决策任务,哪怕这些任务从一开始就不需要散文。Drex 把输出形式从"一段话"换成"一组概率",等于把解析环节从流程里拿掉,也让模型规模可以压到 6B 以下。
对于需要在已知选项集合中反复做选择的系统来说,这种输出形态的差异,可能比模型本身的大小更值得关注。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.