网易首页 > 网易号 > 正文 申请入驻

两周覆盖35.3%付费团队,Jev只花了0.27%预算

0
分享至

下一代重要的AI系统,可能不是那个把答案写得最漂亮的。它更可能是那个在后台悄悄决定:哪个答案该被生成、哪个请求该被拦下、哪个客户该转给人工。


多年来,人工智能对外的面孔一直是对话式的。用户提问,模型作答,进步用回答有多流畅、多有知识、多有创意来衡量。但在公司内部,大量工作远没有这么戏剧化。软件要分类客服工单、把请求路由到正确的系统、标记潜在有害内容、给推荐排序、在一小串预设动作里挑一个。这些不是对话,是反复发生的判断。

这个区别正在催生一场新的AI竞赛。轻量级决策模型被定位成通用聊天机器人的更便宜、更快的替代品,专门用于输出是结构化选择的场景。TypeSafe的Jev帮助定义了这个品类,而OpenAI如今带着广泛可用的Decisions API(决策接口)入场了。

TechCrunch报道了Jev在Vercel的快速采用,称这款模型在付费团队中扩散得异常快。现在更重要的问题不是这些系统能不能吸引开发者,而是它们能不能被信任,去承担那些越来越嵌在大型AI工作流里的小决策。

OpenAI的Ajeet Grewal给出了一个具体案例:“在Sierra,我们在实时客户对话的部分编排环节使用Decisions API来选择正确的下一步动作。它的p95延迟低于280毫秒,比我们此前的方案快约3倍、每次调用成本低90%,客户结果没有下降。”

小模型做小决定的吸引力

通用模型是为处理广泛请求而设计的。任务开放时,这种灵活性很值钱;但当一个系统只需要从短清单里选一项时,它也可能是浪费。

决策模型围绕的就是这个更窄的需求。它不写一段话,而是选出“账单”“技术支持”或“销售”;它判断一条消息该不该转给人工审核、一个请求属于哪个处理队列、内容是否需要审核。吸引力很实际:只做有限选择的模型可能响应更快、运营成本更低、更容易嵌进现有软件流程,返回的是可预测的结构,而不是工程师事后还得解读的一段答案。

TypeSafe在Jev 1.14的发布说明里描述了这种做法,把它定位成做结构化选择的系统,而不是常规聊天机器人。公司称Jev能输出置信度、能处理图像、支持条件决策逻辑。这些能力让模型超出了简单的文本分类——比如系统可以先看一张图、做出初步选择,再根据结果触发软件的另一条分支。

听起来能力不大,后果却很广。大多数数字服务里都有成千上万个时刻,某样东西必须被选中、批准、拒绝、升级或改道。如果这些时刻能由一个小模型可靠处理,那这个模型作为基础设施的价值,可能比作为用户目的地的价值更高。

先被采用,再被注意

Vercel的早期数据说明开发者立刻找到了Jev的用处。根据Vercel的2026年10月AI Gateway报告,Jev在上线头两周触达了35.3%的付费团队,Vercel称这几乎是使用量第二的模型的近两倍。同一份报告称,Jev在那段时间只占网关支出的0.27%。

这组数字指向一种特定的采用方式:用它的团队比例很大,但它没有吃掉相应比例的模型预算。这符合一个模型被塞进许多小而重复的任务、而不是充当长回答主引擎的情形。它也解释了决策模型为什么能在公众看不见的情况下扩散——客户永远不会知道,是一个轻量模型先分类了请求,再由更大的模型处理;员工只看到最终推荐,看不到决定由哪个系统产出结果的路由判断。模型在场,但藏在管道里。

这和聊天机器人的商业位置不同。聊天机器人争夺注意力,决策模型争夺工作流里的位置。

OpenAI在公告中把Decisions API介绍为做结构化选择的更快、更低成本的方式,点名的应用场景包括分类、路由、审核和排序。这个定位很关键:OpenAI没有把它主要包装成新的对话界面,而是描述成开发者可以放进更大应用里的一个组件。它的价值不太取决于能不能撑起一段引人入胜的对话,更取决于它做选择是否够快、够稳定、够便宜,能撑住规模化运营。

这让Jev和OpenAI的产品进入了一场规则不同的竞赛。头条基准分数可能说明不了路由决策的质量。一个模型可以在广泛评测里表现很好,却在公司类目含糊、示例参差、用户用几种不同说法表达同一请求时失手。更相关的问题是运营层面的:真实流量下一次决策要多久?每次决策花多少钱?该表达不确定时它表达了吗?措辞稍微一变,它会不会做出同样的选择?团队能不能搞懂一个请求为什么被路由错了?一个看似微小的错误,多常制造出昂贵的下游工作?

置信度不等于确定性

决策模型的核心风险在于,它的输出可能看起来比实际更精确。对话式回答常通过语言暴露不确定性;结构化系统可能返回一个类目加一个数值置信度,制造出“这个决定被科学地测量过”的印象。但置信度只有在与答对的概率大致对应时才有用。

加州大学洛杉矶分校的Lingsen Meng给出了一份关键评估。在对Jev与开源及通用分类器的校准审计中,Meng报告Jev的校准会随任务措辞变化;研究还发现,Jev在某些四分类判断上过度自信,在71.6%的受评估答案中返回了恰好1.00的置信度。

这一发现并不能证明Jev不适合所有工作流,但它确实为那些想用置信度分数决定何时自动化、何时引入人工的团队,标出了一条严重限制。如果一个模型频繁把答案呈现为完全确定,这个分数在识别困难案例上就帮不上什么忙。

校准问题也说明这个品类需要自己的标准。一个稍慢但能准确识别不确定性的模型,可能比一个更便宜却自信地把困难案例送错路的模型更有用。最好的系统未必是在实验室里做出最多正确选择的那个,而可能是知道什么时候不该独自做决定的那个。

决策模型在AI智能体变复杂时可能尤其重要。一个替用户执行任务的智能体要做许多中间选择:调用哪个工具、请求是否在权限内、哪些信息重要、何时请求澄清、何时把任务交给人工。这些选择不需要聊天机器人的全部表达力,但需要可靠。专用模型可以充当这个过程的交通管制员:把简单问题路由给快速系统,把困难请求留给昂贵模型,拦下风险动作,或者识别出必须人工复核的节点。在这个角色里,它很少出现在最终交互中,却可能决定用户得到的体验。

这给TypeSafe和OpenAI这类公司创造了战略机会。一个嵌进路由、审核或排序的模型可能很难被替换,因为换掉它可能改变整个工作流。竞争不只是争夺模型调用次数,而是争夺那个管辖其他模型和软件的决定层。这个位置也有危险:当决策消失在基础设施里,问责会变得更难看清。一个被拒绝的请求可能看起来像产品规则,实际却是分类错误;一个客户可能因为置信度夸大了确定性而被挡在帮助之外。模型显得越小,它的影响越容易被忽略。

决策模型市场还很年轻,现有证据也不均衡。Vercel的采用数据说明Jev早期关注度很强,TypeSafe围绕结构化选择和条件逻辑定义了产品,OpenAI把竞争性接口带给了更广的受众。但眼下还没有Jev、OpenAI的模型和其他新对手在速度、成本、校准和真实工作流可靠性上的正面对比。这种对比会比“谁听起来最聪明”的较量更重要。公司需要围绕自己真实的类目、流量模式和失败成本来构建评估,不只测平均准确率,还要测模型多常不确定、输入异常时怎么表现、人从一次错误决策中恢复过来要多久。

下一场模型战争可能因此不太好看。可能没有炫目的演示,也没有一个能抓住公众想象的聊天机器人。进步会体现在更短的响应时间、更小的账单和更少被送错的工单上。赢家可能是用户永远不会注意到的那些模型,它们的成功用这样一件事来衡量:在任何人不得不问“为什么”之前,正确的系统被调用了,正确的请求被升级了,正确的选择已经做完了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
多家品牌宣布:下调金饰克价

多家品牌宣布:下调金饰克价

财联社
2026-11-21 18:33:59
女演员孙芮宣布结婚怀孕,晒背影合照并透露老公身处纪律岗位

女演员孙芮宣布结婚怀孕,晒背影合照并透露老公身处纪律岗位

都市快报橙柿互动
2026-11-21 10:19:12
复星18.9亿出售上海地标商厦

复星18.9亿出售上海地标商厦

新浪财经
2026-11-21 18:58:09
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
历史上令人无比头痛的匈奴,如今演变成了哪个民族?令人唏嘘不已

历史上令人无比头痛的匈奴,如今演变成了哪个民族?令人唏嘘不已

文史达观
2025-05-01 22:50:28
A股:股民要做好准备,若无意外,下周一,11月23日,大概率这样走

A股:股民要做好准备,若无意外,下周一,11月23日,大概率这样走

风风顺
2026-11-22 01:00:04
27年首次!切尔西主场1比4惨败利兹联,阿隆索11轮已输5场

27年首次!切尔西主场1比4惨败利兹联,阿隆索11轮已输5场

甜份超标的我
2026-11-22 01:28:03
恭喜!香港女星晒二胎孕照,年初才办婚礼,曾与TVB男星拍拖五年

恭喜!香港女星晒二胎孕照,年初才办婚礼,曾与TVB男星拍拖五年

圆梦的小老头
2026-11-21 22:42:14
知名电商平台突然倒闭

知名电商平台突然倒闭

跨境派Pro
2026-11-20 14:29:21
飞了60.4公里就落地,国产电动飞机被骂惨!真正看点根本不是航程

飞了60.4公里就落地,国产电动飞机被骂惨!真正看点根本不是航程

老娱记啊
2026-11-19 15:31:44
金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

大众网
2026-11-21 12:23:05
西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

凡人学电脑
2026-11-20 23:39:35
A股:股民坐稳扶好,信号很强烈,下周A股熊市冰冻三尺即将开始吗?

A股:股民坐稳扶好,信号很强烈,下周A股熊市冰冻三尺即将开始吗?

趋势清风侠
2026-11-21 14:08:20
大家是怎么判断一个孩子聪不聪明,网友:聪明和美貌都无法被隐藏

大家是怎么判断一个孩子聪不聪明,网友:聪明和美貌都无法被隐藏

另子维爱读史
2026-11-21 22:07:39
M4 iPad Air全系直降100美元,649美元起

M4 iPad Air全系直降100美元,649美元起

报错免疫体
2026-11-20 23:55:30
晚清最残忍的午宴:8位大将满心欢喜赴宴,还没动筷就人头落地

晚清最残忍的午宴:8位大将满心欢喜赴宴,还没动筷就人头落地

纪实文录
2025-07-18 10:37:56
从全网泪目到全网群嘲,赵本山只用了三天

从全网泪目到全网群嘲,赵本山只用了三天

梳子姐
2026-11-19 12:05:24
阿媒:尼科-帕斯替补33分钟,科莫升至意甲第四

阿媒:尼科-帕斯替补33分钟,科莫升至意甲第四

懂球帝
2026-11-22 00:26:00
16进8赛程出炉!山东再斗浙江,辽篮碰上新疆,NBL两大黑马冲8强

16进8赛程出炉!山东再斗浙江,辽篮碰上新疆,NBL两大黑马冲8强

萌兰聊个球
2026-11-21 23:15:52
潘蔚近况曝光!孙楠离婚也真相大白,难怪离开北京甘愿住农村大院

潘蔚近况曝光!孙楠离婚也真相大白,难怪离开北京甘愿住农村大院

別甾虛僞
2026-11-22 00:47:31
2026-11-22 02:04:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
208文章数 92关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

墨西哥女总统发布深圳行vlog 回国航班上还在练八段锦

头条要闻

墨西哥女总统发布深圳行vlog 回国航班上还在练八段锦

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
游戏
数码
旅游
公开课

艺术要闻

世界十大著名宫殿盘点:中国独占两席

曝GTA6与大表哥2是同一宇宙!多处彩蛋佐证

数码要闻

内存涨价逼迫手机厂商挤牙膏!明年3nm芯片继续服役:开始省钱过日子了

旅游要闻

旅游淡季,喜洲的马车队在默契中略显萧瑟,幸好有旅游团的支撑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版