网易首页 > 网易号 > 正文 申请入驻

博主Moritz实测Jev三案例:延迟150毫秒,账单砍九成

0
分享至

为什么同样做网页自动化,有人点一下要等5秒,有人话音没落页面就已经跳转完了?海外技术博主 @moritzkremb 刚发布了一段完整实操教程,把 Jev 从 API 配置到三个真实 Demo 全部跑通录了下来。这段演示里最扎眼的两个数字:150毫秒的响应,和输出 Token 彻底免费

教程按时间戳拆成了四段:0:00 开场,0:34 讲 Jev 是什么,4:06 官方 API 配置,之后是三个 Demo 的完整演示。三个案例分别对应浏览器自动化、Agent 记忆管理和批量结构化预判——都是开发者日常绕不开的场景。


Demo 1:语音控浏览器,卡顿从5秒压到150毫秒

第一个 Demo 在 5:59 开始。用普通大模型做网页自动化,流程是鼠标点一下、等云端模型思考、再返回动作,这个等待被形容为"卡顿得像个树懒",量级在5秒左右。

接入 Jev 之后,操作方式变成对着麦克风口述指令。Jev 在 150毫秒内对网页的 DOM 元素做毫秒级单选(Choice),话音还没落地,页面已经完成点击、跳转、填表。演示里的交互流畅度和真人操作接近。

这里的关键变化是响应位置:决策不再绕到云端大模型那里排队,而是在本地以毫秒级完成元素选择。对做浏览器自动化的开发者来说,这意味着交互类场景第一次有了可用的延迟水平。

Demo 2:让 Jev 当记忆守门人,Token 消耗砍掉90%

第二个 Demo 在 11:33,针对的是 Agent 长任务的老问题:上下文越滚越长,Token 越烧越多。

传统做法是让大模型自己写摘要,成本高,而且容易把关键技术细节一起摘要掉。Moritz 演示的方案是让 Jev 充当记忆守门人:每产生一条新对话,Jev 毫秒级打分(Score),判断它是不是关键事实。

无用的废话和临时测试日志当场物理丢弃;核心偏好和规则则保留字面原文,沉淀进向量库。按演示里的说法,单次会话的 Token 消耗直接砍掉 90%

这个思路值得注意的地方在于"保留字面原文"——摘要式压缩会丢细节,而打分式过滤只做取舍、不做改写,关键信息不会在压缩过程中被磨掉。

Demo 3:几万条视频批量预判,成本压到几毛钱

第三个 Demo 在 17:27,场景是 YouTube 爆款预测,本质是高并发批量处理。

想在几万条视频或工单里快速初筛,以前调大模型分析一次要烧几分钱,还要等好几秒。用 Jev 批量跑结构化预判时,它不写任何长篇分析,直接并发返回每一条视频在完播率、点击率上的概率分布。

演示给出的结果是:速度提升上百倍,输出 Token 物理免单,整个大盘扫一遍只要几毛钱成本。对需要做初筛的场景来说,这种"只出结构化判断、不出长文"的形态,恰好避开了最贵的那部分输出。

三个 Demo 指向同一种分工

把三段演示连起来看,Moritz 想展示的分工是:大模型负责在深水区啃最难的逻辑,Jev 负责充当闪电般的前置小脑,把原本卡在系统门外的延迟、死循环和 Token 账单处理掉。

视频里公开了时间戳、API 配置代码和三个项目的架构。正在做 Agent 开发、浏览器自动化,或者被 API 费用困扰的开发者,可以按时间戳直接跳到对应段落跟做。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
医院倒闭潮来了,医生该何去何从,是谁抢了医生们的饭碗?

医院倒闭潮来了,医生该何去何从,是谁抢了医生们的饭碗?

抽象派大师
2026-09-19 16:22:53
川岛芳子被军统折磨了3年才枪毙,临终前直言:想和猴子葬在一起

川岛芳子被军统折磨了3年才枪毙,临终前直言:想和猴子葬在一起

风飘飘而吹衣
2024-11-10 17:11:11
雷军“吹牛”兑现,小米汽车拿下NPS第一,鸿蒙智行无一上榜!

雷军“吹牛”兑现,小米汽车拿下NPS第一,鸿蒙智行无一上榜!

大厂财经社
2026-09-18 11:07:50
女子走在路上,被一个陌生男人强行拉到角落发生了关系

女子走在路上,被一个陌生男人强行拉到角落发生了关系

张晓磊
2026-09-18 12:05:20
四面楚歌!特朗普,再遭连环暴击!

四面楚歌!特朗普,再遭连环暴击!

大嘴说天下
2026-09-18 21:55:04
穆杰塔巴骗了所有人?伊朗空袭美军基地是假象,真正目标并非美国

穆杰塔巴骗了所有人?伊朗空袭美军基地是假象,真正目标并非美国

全球风情大揭秘
2026-07-22 09:52:22
美媒:带雷达试飞!中国六代机迈入飞行测试新阶段

美媒:带雷达试飞!中国六代机迈入飞行测试新阶段

自在天高
2026-09-18 12:13:11
能开油车就继续开油车!车管所实在话:油车能不换,尽量别盲目换

能开油车就继续开油车!车管所实在话:油车能不换,尽量别盲目换

沙雕小琳琳
2026-09-19 13:17:04
山西某市政协常委和法官联手对招商企业“关门打狗”,受害人两千万打水漂

山西某市政协常委和法官联手对招商企业“关门打狗”,受害人两千万打水漂

公子六郎
2026-09-19 21:58:41
惨烈!8月中型SUV销量榜,Model Y夺冠,途观L第5,豹5第21名

惨烈!8月中型SUV销量榜,Model Y夺冠,途观L第5,豹5第21名

沙雕小琳琳
2026-09-18 01:28:31
郑秀文用半辈子减肥,抑郁、暴瘦至78斤,终在54岁发福认不出

郑秀文用半辈子减肥,抑郁、暴瘦至78斤,终在54岁发福认不出

汪巗的创业之路
2026-09-17 04:15:02
日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

健康科普365
2026-08-13 14:30:15
女网世界杯再次“减员”,中国女网和郑钦文的机会来了?

女网世界杯再次“减员”,中国女网和郑钦文的机会来了?

体谈
2026-09-19 10:21:31
《交锋》大结局:那个被枪毙的导弹专家,临死前说了句让所有人沉默的话

《交锋》大结局:那个被枪毙的导弹专家,临死前说了句让所有人沉默的话

陈意小可爱
2026-09-11 10:10:00
一年前趋之若鹜的黄金,如今成了天大的笑话!谁替你的亏损买单?

一年前趋之若鹜的黄金,如今成了天大的笑话!谁替你的亏损买单?

财经保探长
2026-09-19 23:38:31
亚运会乒乓球:9月20日赛程发布,国乒男女团一天双赛,战朱雨玲

亚运会乒乓球:9月20日赛程发布,国乒男女团一天双赛,战朱雨玲

阿嚼影视评论
2026-09-20 00:47:21
顺风车司机找到乘客手机后索要1888元,“再处理不好就拔卡”,平台:正和司机沟通协商

顺风车司机找到乘客手机后索要1888元,“再处理不好就拔卡”,平台:正和司机沟通协商

鲁中晨报
2026-08-08 10:18:07
底层声音:不应让国企管理层单独“先富起来”,把风险留给职工

底层声音:不应让国企管理层单独“先富起来”,把风险留给职工

白米饭怎么吃
2026-09-18 20:57:55
黄仁勋:中国4年内搞定光刻机!

黄仁勋:中国4年内搞定光刻机!

中国半导体论坛
2026-09-18 00:04:00
1949年解放军赤脚清淤中南海,16万吨湖泥里,挖出半部近代苦难史

1949年解放军赤脚清淤中南海,16万吨湖泥里,挖出半部近代苦难史

老谢谈史
2026-09-17 01:37:33
2026-09-20 05:00:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
212文章数 92关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

甜度爆表!许嵩冯禧晒婚纱照官宣结婚

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

数码
艺术
时尚
房产
手机

数码要闻

三星又罢工了!这次堵到李在镕家门口:内存芯片又要涨价了

艺术要闻

国宝级!石涛书画全集大公开,搜尽奇峰打草稿,这才是中国画天花板!

早秋外套别总穿黑色,准备一件黄色针织衫,温柔大方又减龄

房产要闻

海口房价,降不动了!

手机要闻

iPhone 18 Pro 1TB版本使用QLC闪存引发争议:加价数千元却买到降级配置

无障碍浏览 进入关怀版