![]()
先压低判断成本,再用 Calibration 提升可靠性,最终借 Agent 放大调用量。
作者丨郑佳美
编辑丨岑 峰
昨天,大家还在惊叹 Jev 的速度和低成本,今天它又做了一件更夸张的事:给申请到的用户直接发放 1.2 亿 Token 额度。
消息出来以后,大家没有先觉得赚到了,更多冒出的念头反而是:这不对劲。
因为 Jev 本身就极其省 Token。它主要处理分类、路由、评分和概率判断,不需要像通用大模型那样生成大段内容,一条短文本输入可能只有几十个 Token。按照这种消耗方式,1.2 亿 Token 足够普通应用跑几百万次判断,在输入足够短的情况下,调用规模甚至还能继续往上走。
问题也就来了:一个已经靠低价获得大量讨论的模型,为什么还要继续往外送这么大的额度?
答案可能藏在 Jev 想做的那门生意里。它要卖的从来都不是一段生成内容,而是一次判断,而 1.2 亿 Token 正在把这种判断推向一个过去很少出现的状态——便宜到开发者几乎不用考虑次数。
![]()
01
1.2 亿 Token 到底意味着什么?
从技术上看,这相当于给一个应用塞进了数百万次低成本决策机会。
传统大模型通常围绕一项完整任务工作,读入上下文、完成推理、生成结果,一次调用本身就比较重。Jev 的任务颗粒度小得多,它可以只回答一个问题:这段内容属于哪一类,这几个工具该选哪一个,这个结果应该保留还是丢弃,当前任务应该继续还是结束。
这意味着 Jev 的 Token 消耗方式天然适合高频调用。一个 Agent 跑完整条任务链,可以在用户意图识别、工具选择、结果筛选、异常处理和状态检查等多个位置调用它,而每一次消耗都很小,因此 1.2 亿 Token 放到这里,代表的已经不是体验几个 Demo,而是一段很长的真实运行周期。
![]()
商业上看,这种赠送也很反常。即便 Jev 自己的单价已经非常低,大规模发放 1.2 亿 Token 依然意味着平台主动承担大量免费推理;如果按照市面上的通用小模型价格去换算,同样规模的 Token 也对应着一笔不低的使用价值。
所以这里真正值得算的不是单个用户拿到了多少美元,而是 Jev 一次性送出了多少次判断机会。一个开发者手里只有少量额度时,会优先挑关键场景测试;当额度大到短时间很难用完,测试范围会自然扩大,很多过去根本没有考虑过用模型处理的节点,也会被拿出来试一遍。
这就进入了 Jev 后面真正想做的事情。
02
为什么 Jev 要反常地烧钱?
Agent 运行过程中存在两类工作,一类需要复杂规划和长推理,另一类只是大量连续的小决策。前者适合交给能力更强的大模型,后者更像一种持续运行的快思考系统,而 Jev 押的正是这一层。
一个 Agent 接到任务以后,要不断判断下一步该做什么:该用搜索还是代码工具,返回结果是否可用,失败之后该重试还是换路径,什么时候需要升级给更强模型,什么时候任务可以结束。这些节点单独看都不复杂,却会密集地出现在执行链里。
![]()
过去,这部分工作大量依赖 if else、关键词、阈值和状态机,因为调用一次大模型处理这种小问题并不划算。Jev 把成本和延迟压下来以后,就有机会进入这些原来属于规则代码的位置。
这也是它为什么需要如此夸张的赠送额度。开发者只有经过大量真实尝试,才会慢慢确定哪些节点适合交给 Jev。一旦分类、路由、结果筛选和状态判断围绕 Jev 搭好之后,后续工作流、回退策略和阈值也会跟着围绕它建立起来。
![]()
Jev 想要的,就是这种默认位置。
未来开发者搭 Agent 时,如果遇到复杂推理想到大型模型,遇到快速判断自然想到 Jev,那么 System 1 这一层基本就被它卡住了。
除此之外,Jev 另一个关键点在 Calibration,也就是概率校准。
Agent 需要的不只是一个选项,还要知道这个选项有多大把握,因为概率会直接影响下一步动作。一个判断的置信程度很高,系统可以直接执行;几个选项非常接近,就可以调用更强模型继续处理;如果某类任务长期表现不稳定,还可以提前设置回退机制。
![]()
于是 Calibration 实际上决定了 Jev 能不能承担更深的系统职责。
而概率校准又非常依赖真实世界里的反馈。模型给出 80% 并没有天然意义,需要不断对照后续结果,看看类似判断长期来看究竟有多少成功。Agent 恰好会产生大量这种结构化反馈,因为每一次路由、筛选和状态判断之后,通常都有一个实际结果可以验证。
这里当然需要以 Jev 的实际数据政策为准,不能直接假定用户请求会全部进入训练。但从模型迭代角度看,大规模真实使用会暴露大量实验数据里很难提前覆盖的边缘情况,包括哪些任务容易过度自信,哪些场景频繁出现低置信,哪些问题应该尽早交给更强模型。
所以 Jev 需要的并不只是更多用户,它还需要更多真实任务,把 Calibration 放进复杂环境里反复检验。如果这一层越做越稳,它和普通分类模型之间的差距也会逐渐拉开。
![]()
到这一步,Jev 和杰文斯悖论之间的关系就能接上了。
杰文斯悖论描述的是一种很反直觉的现象:当一种资源的使用效率越来越高、单位成本越来越低,人们往往会开发出更多用途,最后让总消耗继续扩大。而 Jev 正在主动创造这样的条件。过去,一个开发者可能只在任务开始时调用一次模型判断用户意图,因为后面的很多节点用规则也能解决。
但当手里有 1.2 亿 Token 以后,他就有可能继续试更多地方,搜索结果逐条打分,工具调用之前做路由,执行失败后判断原因,任务推进过程中反复检查状态。这些用法很多并不是 Jev 替代了原来的模型调用,而是以前根本不存在的 AI 调用。
这一点非常关键,因为它决定了 Jev 的低价能不能形成一门大生意。单次判断价格越来越低,只要整个软件系统里的判断次数增长得足够快,总需求依然可以迅速扩大。
![]()
所以 Jev 送 1.2 亿 Token,看起来是在让开发者占便宜,实际上更像是在做一场行为实验:当判断便宜到几乎不用省以后,开发者究竟能发明出多少新的使用场景?
这才是杰文斯悖论在 Jev 身上真正有意思的地方。
03
Jev 想抢的,是判断市场
过去几年,大模型行业的主线一直围绕生成展开,模型越来越大,推理越来越长,大家习惯把 AI 的价值和生成能力绑在一起。
Jev 的出现提供了另一种切法:很多软件场景根本不需要模型生成一大段内容,它们只需要一个足够快、足够便宜、概率足够可靠的裁判。
在 Agent 里,大型模型负责提出方案、规划任务和完成复杂推理,Jev 则负责不断判断方案该不该执行、结果要不要留下、任务下一步该往哪里走。前者决定 Agent 能处理多复杂的问题,后者决定它能不能以足够低的成本持续运行。
这样再回头看 1.2 亿 Token,这个动作就很好理解了。
System 1 决定 Jev 要抢什么位置,Calibration 决定它能不能长期守住这个位置,杰文斯悖论决定这个市场能不能随着价格下降继续扩大,而 1.2 亿 Token 则把这三件事情同时往前推了一步。
AI 上半场的主线是大力出奇迹,通过更多算力、更大模型和更长推理不断抬高能力上限。但 Agent 时代开始出现另一种竞争方式,模型公司会想办法让自己的能力进入更多调用节点,让开发者逐渐形成固定的使用习惯。
这就是让你上瘾背后的商业含义。Jev 想做的事情其实也很直接:先把判断做得足够便宜,让开发者放心去用,再靠 Calibration 把判断做得越来越可靠,最后借助 Agent 把判断次数不断放大。
如果这套逻辑跑通了,那 Jev 抢到的就不再只是一个模型品类,它拿到的则会是 Agent 每次准备行动之前的那一下判断。
上车,带你看遍全球 AI 顶会精华
可独家畅览:
专家演讲PPT
大会报告全文
热门论文解读
学术新星访谈
未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!
公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.