网易首页 > 网易号 > 正文 申请入驻

5个免费开源模型替代Jev,最高分71.24

0
分享至

不是每个AI任务都需要一个完整的大模型来回答。有时候,你只需要一个模型帮你挑一个选项、打一个分,或者判断某件事是真是假。这类模型现在有了个叫法——"决策模型"。Jev就是其中之一,它通过Choice、Score和Noul三个功能,给出带置信度分数的结构化决策。


但Jev是闭源的。如果你想在本地跑模型,或者用自己的数据做微调,这里有5个免费的开源替代方案。Jev本身也不贵,但这些方案能让你对自己的部署有更多控制权。

1. Mammoth-1

Mammoth-1是一个27B参数的决策模型,由Baseten旗下的Base Labs开发,基于Qwen3.5-27B构建。在Baseten公布的Jev Decision Index 0.4评测中,Mammoth-1拿到71.24分,超过Perplexity Decider v1.2的69.42分和Jev 1.14的62.2分。

它适合文档分类、候选答案排序、把请求路由到正确的智能体这类任务。支持文本和图像,采用MIT许可证,可以自托管。不过27B的模型对硬件要求不低。

2. vLLM Semantic Router D3

D3有多个尺寸,参数从0.6B到27B不等,支持文本、图像和视频,返回的是应用可以直接使用的概率分布。如果你在搭建AI智能体,需要决定哪个模型、工具或工作流来处理某个请求,D3会派上用场。

GPU资源有限的话,D3-Mini和D3-Flash这类小尺寸版本也提供了选择。模型可以通过vLLM的System One端点本地部署。

3. Perplexity pplx-decider v1.2

这是Perplexity推出的27B决策模型,基于Qwen3.8构建,支持分类、候选打分和置信度估计。它的联合问题处理能力,可以让你把针对同一输入的多个问题放在一起评估,在搭建分类流水线或比较多个候选时比较实用。

模型采用Apache 2.0许可证发布,但访问其Hugging Face仓库需要认证。和Mammoth-1一样,它也是个大模型,本地部署前要先考虑GPU显存。

4. H2O-Lightning-4B

这是一个4B参数的紧凑型决策模型。简单的决策不一定需要大模型。客服工单分类、文档处理、请求路由这类任务,H2O-Lightning-4B值得一试,尤其是当你希望把部署要求控制在可管理范围内时。

它还提供了GGUF权重,方便做本地推理实验。模型采用Apache 2.0许可证。

5. Kev

Kev是最接近Jev的开源替代品之一。它基于Qwen模型构建,提供从0.8B到27B的四个尺寸,支持是/否判断、多选选择和带校准概率的数值打分。

Kev还提供了兼容Jev的API,开发者可以用TypeSafe Python SDK搭配本地托管的模型使用。你可以在自己标注的数据上微调它的模型,许可证同样是Apache 2.0。

这五个方案各有侧重:看重准确率可以看Mammoth-1和Perplexity Decider v1.2,多模态任务选D3,小规模部署用H2O-Lightning-4B,需要定制化就选Kev。另外,免费的模型权重不等于零算力成本;一个模型在基准测试上表现好,也不代表它就是你应用的最佳选择。选之前,先用自己的数据测一遍,再看清楚许可证和部署要求。说不定一个轻量级决策模型,就已经够你的应用用了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特雷杨0分创生涯新低!美球迷朝他开炮:去打G联赛吧 2.12亿顶薪混子

特雷杨0分创生涯新低!美球迷朝他开炮:去打G联赛吧 2.12亿顶薪混子

颜小白的篮球梦
2026-11-16 10:35:06
贝林厄姆与库库雷利亚场上激烈对峙,半场通道内再起冲突

贝林厄姆与库库雷利亚场上激烈对峙,半场通道内再起冲突

星河漫山野
2026-11-16 16:16:01
就在刚刚!CBA豪强官宣签美国男篮国手!世预赛场均12.5分,身高2米01

就在刚刚!CBA豪强官宣签美国男篮国手!世预赛场均12.5分,身高2米01

老吴说体育
2026-11-16 12:02:13
女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

丫头舫
2026-11-09 22:14:32
最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

项鹏飞
2026-11-15 20:59:16
太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

运动探索
2026-11-16 15:15:08
马斯克的话应验了:真正卡脖子的不是芯片,而是中国的一个铁疙瘩

马斯克的话应验了:真正卡脖子的不是芯片,而是中国的一个铁疙瘩

互联鱼
2026-10-31 07:10:20
日本麻烦大了!高市敲定赴深圳 APEC,未动身就遭美天价保护费

日本麻烦大了!高市敲定赴深圳 APEC,未动身就遭美天价保护费

牛锅巴小钒
2026-11-15 12:33:08
《谷雨》大结局:藏得最深的人不是周海洋也不是曹亦新,而是卖肠粉的桃姐!

《谷雨》大结局:藏得最深的人不是周海洋也不是曹亦新,而是卖肠粉的桃姐!

肆季娱乐
2026-11-15 21:13:13
墙内开花墙外香!阿尔及利亚两架Su-57战斗机在交付一年后开始执行战斗任务

墙内开花墙外香!阿尔及利亚两架Su-57战斗机在交付一年后开始执行战斗任务

军迷战情室
2026-11-15 17:23:53
意外发现亲戚的秘密,刺激吗?网友:八十了还有想法吗

意外发现亲戚的秘密,刺激吗?网友:八十了还有想法吗

带你感受人间冷暖
2026-11-11 00:05:22
张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

磊子讲史
2026-11-12 14:13:18
癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

路医生健康科普
2026-09-02 17:00:07
随着法国2-1,西班牙2-3,意大利1-4,欧国联最新积分榜出炉

随着法国2-1,西班牙2-3,意大利1-4,欧国联最新积分榜出炉

侧身凌空斩
2026-11-16 05:52:22
“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

花小厨
2026-11-16 10:05:10
真的有命数吗?网友:玄学有时候真的不得不信

真的有命数吗?网友:玄学有时候真的不得不信

康富贵碎碎念
2026-11-15 14:35:16
63比50!埃森科特赢下议会投票,内塔尼亚胡留任总理,权力被约束

63比50!埃森科特赢下议会投票,内塔尼亚胡留任总理,权力被约束

金戈远望
2026-11-15 14:41:57
Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

懂球帝
2026-11-16 13:26:24
再一次劝你:要在大城市留一套房,不止是升值,这四点更重要

再一次劝你:要在大城市留一套房,不止是升值,这四点更重要

专业聊房君
2026-11-09 18:16:59
原来如此!A股下跌的三大利空,找到了!

原来如此!A股下跌的三大利空,找到了!

星图金融研究院
2026-11-16 15:29:06
2026-11-16 17:27:00
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
216文章数 91关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

时尚
本地
亲子
手机
家居

秋天找到一些固定的穿衣公式,用针织衫搭配牛仔裤,减龄舒适

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

优奈越来越爱玩啦!家里欢声笑语不断,日本公婆更是乐开花

手机要闻

荣耀700系列手机搭载“行业独家”2亿柔光背屏自拍:200MP主摄+影棚级柔光环

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版