网易首页 > 网易号 > 正文 申请入驻

六周自建智能体框架,Ramp省下64%推理成本

0
分享至

Ramp 的工程师花了几个月时间,把市面上的托管智能体接口、开源框架和第三方平台挨个测了一遍,最后得出一个结论:不如自己造。结果就是 Laminar——一套内部智能体运行框架,第一版只用了六周,现在支撑着这家金融科技公司所有的智能体产品。


“我们研究了市场上的其他方案,认定自建能做得更好、跑得更快,也更贴合我们想去的方向。”主导这套平台的 Ramp 工程师 Sam Kronick 在公司工程博客里写道。这句话背后是一个很现实的判断:现成的工具,不够用。

Ramp 在周二的博客里拆解了 Laminar 的设计:把智能体执行、沙箱、可观测性和异步工作流收进同一个平台。这套架构引来了 LangChain CEO Harrison Chase 的注意,他在 X 上点赞了其中几个设计选择,同时提到 LangChain 的 Deep Agents 也在做类似的事。两家公司从不同方向切同一个问题,指向的是智能体基础设施的一次整体位移——当运行框架承担的责任越来越多,企业就得决定:这套东西,自己养多少。

为什么非要自己造

Ramp 不想被单一模型供应商锁死。它需要根据成本、速度和性能随时切换模型,也需要更清楚地看到智能体到底在干什么。工程师们早就在翻调用链,找多余的工具调用、臃肿的上下文和报错,但现成的可观测性工具让这件事比应有的难度更高。于是 Ramp 把调试界面直接做进了 Laminar。开发留在内部还带来一个好处:框架团队能直接和产品工程师对接,不用等供应商排期改东西。

Chase 认同 Ramp 的这些优先级,尤其是模型无关性和可观测性——这两点 LangChain 在自己的工作里也反复强调。Laminar 架构里还有别的部分引起了他的兴趣。

会话和沙箱分开

Laminar 上跑的东西从客服智能体,到 Ramp 自家的云端编码智能体 Ramp Inspect,再到处理长周期协作任务的 Glass。要撑住这些产品,框架得管得住持久会话、人工审批和跨环境作业。

Chase 特别提到 Kronick 的一个观察:生产级框架做的事,远不止跑一个简单的执行循环。“+100 同意,”他写道,并指向 LangChain 在 Deep Agents 上的投入。

Ramp 把智能体会话和运行代码的沙箱分开。对话历史和執行状态独立存储,沙箱可以随时启停而不打断会话。Chase 认为“沙箱即工具”是一种正在成型的趋势,Deep Agents 用了类似设计。这种拆法还把凭证和编排留在沙箱之外——当开发者要隔离运行不可信代码的智能体时,这一点很关键。

默认异步,成本靠路由压

Laminar 让智能体不必等每一步都跑完才继续。Chase 把非阻塞的异步智能体称为未来,并表示 LangChain 正在为 Deep Agents 开发类似能力。Ramp 的 Connectors Service 也引起了他的注意:它把认证、凭证、访问控制和工具执行集中到一个共享接口后面。Chase 说 LangChain 正在为托管版 Deep Agents 探索可比的功能。集中管理这些能力,也让平台团队有了统一的地方处理访问和凭证,不必为每个智能体各写一套。

框架也是压推理成本的地方,LangChain 已经把这件事摆上了台面。在 10 月 1 日的一篇工程博客里,它描述了把模型选择搬进开源编码智能体 Open SWE 框架的做法:一个路由器先看初始请求,按预期任务复杂度分配三种模型之一——最简单的活给 GLM-5.3-Flash,中等任务给 GPT-5.6 Sol,最吃力的请求给 GPT-6 Astra。

在 973 个智能体线程上,路由器把每线程的 LLM 成本中位数从 2.61 美元压到 0.94 美元,相比全部任务都用 GPT-6 Astra,降幅 64%。省钱没有带来可测量的性能损失:路由线程的合并拉取请求率为 29.2%,对照组为 27.3%,差异在统计上不显著。九成请求流向了两个更便宜的模型档位。

LangChain 认为,路由放在框架里比放在通用 LLM 网关上效果更好,因为网关对智能体正在做什么了解更少。框架本身知道涉及哪些提示词、工具和领域上下文,做选择时信息更充分。LangChain 用模型选择中间件在每个线程开始时挑模型。

这些结果并不能说明自建框架比用现成框架更便宜——Ramp 没有参与这项实验。但它们确实显示,在框架层面做更聪明的模型选择能省下多少钱,尤其是当智能体处理的任务难度差异很大时。

自建的账还没算完

Ramp 的决定也照出了编码智能体如何改变了基础设施成本。Kronick 说,Laminar 的初始代码全部由智能体生成,有经验的工程师负责把关架构和实现。

但六周做出第一版是一回事,维护是另一回事。Ramp 仍然需要工程师处理故障、更新平台、支持产品团队。公司也没有公布运营成本对比或与竞品平台的基准测试,这让“自建是否更便宜”很难判断。

LangChain 提供了另一种选择:与其从零搭框架,企业可以用现成框架接住大部分底层基础设施——随着更多厂商把自己的框架开源,这条路也在变宽。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
娃哈哈集团董事长许思敏被曝辞职

娃哈哈集团董事长许思敏被曝辞职

21世纪经济报道
2026-10-23 08:57:41
西藏那曲市巴青县发生7.0级地震 胡昌升连夜抵达索县人民医院看望受伤群众

西藏那曲市巴青县发生7.0级地震 胡昌升连夜抵达索县人民医院看望受伤群众

环球网资讯
2026-10-23 07:48:15
西安6岁女童被拐9年,每天隐忍不发背家庭地址,最终找到父母并将人贩子送进监狱

西安6岁女童被拐9年,每天隐忍不发背家庭地址,最终找到父母并将人贩子送进监狱

磊子讲史
2026-10-20 15:39:41
17岁少年手持菜刀威胁28岁舅妈:“让我睡一次,不然死给你看!”

17岁少年手持菜刀威胁28岁舅妈:“让我睡一次,不然死给你看!”

四海神君
2026-10-21 12:00:04
亚太股市集体大跌,原因找到了

亚太股市集体大跌,原因找到了

凤凰网财经
2026-10-22 15:13:08
41岁阿莫林迷之微笑!米兰0-3惨负英超第15:3轮1胜 排欧联第24名

41岁阿莫林迷之微笑!米兰0-3惨负英超第15:3轮1胜 排欧联第24名

风过乡
2026-10-23 05:57:44
“马天宇一家把张萌联系方式删了”“张萌后悔找马天宇上节目”双双冲上微博热搜

“马天宇一家把张萌联系方式删了”“张萌后悔找马天宇上节目”双双冲上微博热搜

扬子晚报
2026-10-23 07:37:15
能发10篇SCI,看 CT片子却靠“盲猜”!把论文当本事的医学界,该醒醒了!

能发10篇SCI,看 CT片子却靠“盲猜”!把论文当本事的医学界,该醒醒了!

聊斋新志
2026-10-22 17:43:57
29分逆转!76人掀翻骑士2连胜,勒布朗17+10+5马克西32分6助攻

29分逆转!76人掀翻骑士2连胜,勒布朗17+10+5马克西32分6助攻

湖人崛起
2026-10-23 09:54:59
官方确认三球走步!NBA裁判协会:他收球之后一共走了四步

官方确认三球走步!NBA裁判协会:他收球之后一共走了四步

罗说NBA
2026-10-23 05:23:58
1948辽沈战役:曾泽生率领26000将士倒戈,蒋介石下密令要诛杀其妻儿,部下却公然硬刚,让密令沦为废纸

1948辽沈战役:曾泽生率领26000将士倒戈,蒋介石下密令要诛杀其妻儿,部下却公然硬刚,让密令沦为废纸

睡前讲故事
2026-10-10 20:12:07
米神32分哈登哑火,詹皇17+10+5主导29分逆转创纪录,76人掀翻骑士

米神32分哈登哑火,詹皇17+10+5主导29分逆转创纪录,76人掀翻骑士

钉钉陌上花开
2026-10-23 09:56:36
大火逼近中国,日本道歉岂能只道一半

大火逼近中国,日本道歉岂能只道一半

中国能源网
2026-10-22 17:59:09
战满5盘惜败!国乒女团2-3不敌日本队,遗憾无缘亚锦赛冠军

战满5盘惜败!国乒女团2-3不敌日本队,遗憾无缘亚锦赛冠军

全景体育V
2026-10-22 22:07:20
恋爱8年,生存节目冠军宣布与同性伴侣结婚

恋爱8年,生存节目冠军宣布与同性伴侣结婚

自愈小日子
2026-10-22 00:39:48
公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

公交改革来了!财政不再全部兜底,以后乘车、老年优惠会变吗?

混沌录
2026-10-22 22:47:13
深圳个人破产案例爆火!男子负债158万申请个人破产,五年还款29.4万,剩余债务可豁免,评论炸锅

深圳个人破产案例爆火!男子负债158万申请个人破产,五年还款29.4万,剩余债务可豁免,评论炸锅

火山詩话
2026-10-22 09:06:52
这就是差距?日乒女团夺冠后,日媒一针见血,指出中国队输球原因

这就是差距?日乒女团夺冠后,日媒一针见血,指出中国队输球原因

林子说事
2026-10-23 02:14:27
遥遥领先?搜狐汽车禁言15天

遥遥领先?搜狐汽车禁言15天

吃瓜体
2026-10-22 19:40:37
三问“问界汽车在神木碰撞起火事故”:撞击瞬间时速是多少?AEB是否启动?起火是否太快?

三问“问界汽车在神木碰撞起火事故”:撞击瞬间时速是多少?AEB是否启动?起火是否太快?

澎湃新闻
2026-10-23 07:46:29
2026-10-23 10:08:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
215文章数 82关注度
往期回顾 全部

科技要闻

抢运营商饭碗!马斯克又有大动作

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

娃哈哈集团董事长许思敏离职

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

房产
亲子
游戏
教育
健康

房产要闻

租金大跳水!荒了6年,海口这个地标商业,开始急了!

亲子要闻

谁懂啊!粉色墙壁被娃乱涂乱画,这房间还能抢救吗

《使命召唤:现代战争4》四项战役任务密码汇总

教育要闻

南京中考几何求长度,辅助线是关键

痘痘能根治吗?皮肤科医生说实话

无障碍浏览 进入关怀版