网易首页 > 网易号 > 正文 申请入驻

自己服务器跑AI代理,这个开源方案把成本打下来了

0
分享至

周五深夜,一位运维老哥盯着账单上的大模型接口费用,甩了一句:“这帮厂商把我们当韭菜。”他转身把一台闲置的2U服务器拖出仓库,插电、装系统、部署了一套刚开源的东西。第二天早上,他在同一台机器上同时跑着12个AI代理,每个都隔离在自己的微型虚拟机里,账单为零。

这套东西叫OpenClaw Machines,昨天刚在Hacker News露面我们就跟进了。一句话说清楚它干嘛的:让你在自己硬件上跑任意数量的OpenClaw AI代理,每个跑在独立的Firecracker微型虚拟机里,硬件级隔离,不是容器那种软隔离。所有代码Apache-2.0开源,刚刚放出公开核心版本。


整个架构拆开看,几个关键组件:控制平面用Go写的API层,PostgreSQL管账户、机器、主机,负责调度、生命周期、备份和持久化工作流;主机代理ocm-agent在你登记的Linux机器上启动、监控、回收Firecracker微虚拟机,桥接网络和根文件系统全自动搞定;每台主机配一个LiteLLM代理,统一管模型密钥,支持自带密钥,按机器粒度追踪用量,也可以连本地部署的开源模型。

安全方案做得挺狠。每个代理一个Firecracker微虚拟机,独立客户内核,跑在KVM硬件边界之上。认证在边缘侧先拦一道,进入虚拟机内部再验证一次。用户到虚拟机的流量走Cloudflare数据平面,每台机器分配独立子域名,隧道终止在虚拟机内部,宿主机端口一个都不暴露给外界。控制平面目前还需要通过9090端口访问每个代理的认证API,这部分得走私有网络或防火墙限制。

虚拟机里面跑什么?OpenClaw运行时全套:认证代理、网页聊天网关、实时终端、基于制品驱动的运行态更新流程。浏览器运行时也带上了,配对的Chromium浏览器虚拟机,CDP路由加上可观看的实时视图。工作区集成支持GitHub、Google Workspace、OpenAPI、GraphQL,还有远程MCP工具,工作区配一次,所有机器通过OCM的MCP外观层就能调用。


成本这事得算清楚。租一台裸金属服务器,能塞多少代理就跑多少,不像按接口付费的大模型服务,跑得越多单价越难算。作者拿了一张对比表出来,同规格硬件上不同方案的代理密度差了好几倍。更狠的一招:把代理流量路由到自己GPU上跑的开源模型,连接口调用费都省了,一趟算下来Token开销大打折扣。

OCM命令行工具放在mathaix/ocm-cli仓库,同样Apache-2.0许可。构建流水线也开源了,每个组件的构建命令、GCS制品桶的布局、主机配置脚本、发布通道,全在仓库里。你想从源码编译出一整套部署包,照着走就行。

我们看了43秒的演示视频。从主机注册、代理启动、Firecracker虚拟机终端实时操作,到工作区MCP集成、代理工具调用的完整链路,一气呵成。不是概念验证,是能跑在生产环境的东西。演示里那台机器同时跑着好几个代理,终端窗口一切换就能看到每个虚拟机里面的活。

主权这两个字在安全圈喊了很多年,真把控制权交回用户手里的方案没几个。你自己的硬件、你自己的数据、你自己的密钥。控制平面和工作节点跑在你的机器上,模型流量经过你的LLM代理,想接哪个提供商接哪个,或者直接用你自己GPU上部署的模型。代码全开,Apache-2.0许可不卡商用。这套架构的设计思路就是让你不再看云厂商的脸色。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人性铁律:一个男人的生理需求被满足之后,他脑子里想的从来不是感恩,想让他离不开你,关键在于这两个心理陷阱

人性铁律:一个男人的生理需求被满足之后,他脑子里想的从来不是感恩,想让他离不开你,关键在于这两个心理陷阱

心理观察局
2026-07-11 06:29:08
“早入伏,凉飕飕;晚入伏,热死牛”,7月15日入伏,算早还是晚

“早入伏,凉飕飕;晚入伏,热死牛”,7月15日入伏,算早还是晚

牛锅巴小钒
2026-07-11 06:37:54
具俊晔公开声明未放弃继承大S遗产,将争取由大S儿女依法继承的部分,汪小菲已为小玥儿箖箖办好信托

具俊晔公开声明未放弃继承大S遗产,将争取由大S儿女依法继承的部分,汪小菲已为小玥儿箖箖办好信托

观察鉴娱
2026-07-14 09:54:41
安东尼奥:车祸后西汉姆给我开5000周薪,还说别人又没断腿

安东尼奥:车祸后西汉姆给我开5000周薪,还说别人又没断腿

懂球帝
2026-07-14 10:37:12
哈兰德购买浣熊标本的商店爆火已收到2000份线上订单

哈兰德购买浣熊标本的商店爆火已收到2000份线上订单

纵拥千千晚星
2026-07-14 14:21:28
日本赛首日:国羽6胜6负!韩悦吊打东道主,翁泓阳遭遇一轮游

日本赛首日:国羽6胜6负!韩悦吊打东道主,翁泓阳遭遇一轮游

钉钉陌上花开
2026-07-14 20:45:59
夏联:杨瀚森复出18+10+5单节10分秀隔扣 开拓者大胜森林狼

夏联:杨瀚森复出18+10+5单节10分秀隔扣 开拓者大胜森林狼

醉卧浮生
2026-07-14 13:28:30
终于,QQ 邮箱要彻底变了!

终于,QQ 邮箱要彻底变了!

果粉俱乐部
2026-07-13 13:55:03
美使馆发文:中国局势从1-14变为3-2优势

美使馆发文:中国局势从1-14变为3-2优势

晨光苏醒a
2026-07-13 21:56:20
同车相伴却冷眼旁观!女司机高速车祸离世,男友全程昏睡被判赔偿

同车相伴却冷眼旁观!女司机高速车祸离世,男友全程昏睡被判赔偿

记录生活日常阿蜴
2026-07-15 00:10:06
美指挥部遇袭致20死113伤,特朗普24小时内宣布拿下海峡

美指挥部遇袭致20死113伤,特朗普24小时内宣布拿下海峡

阿代说事
2026-07-14 12:19:13
史上首次!2026年一季度全国无一省份实现财政自平衡

史上首次!2026年一季度全国无一省份实现财政自平衡

大江看潮
2026-07-09 08:13:10
詹姆斯将如何宣布下家?五种方案解析

詹姆斯将如何宣布下家?五种方案解析

日常碎碎念啊
2026-07-15 01:43:50
周星驰《功夫女足》与冯小刚《抓特务》上映巨大反差引争议,网友:星爷就算拍的是垃圾,我都认

周星驰《功夫女足》与冯小刚《抓特务》上映巨大反差引争议,网友:星爷就算拍的是垃圾,我都认

火山詩话
2026-07-14 11:27:13
深度绑定华为,三大生态车企集体预亏

深度绑定华为,三大生态车企集体预亏

青橙汽车
2026-07-14 15:59:42
CBA最新消息:功勋教头空降广东?庞峥麟上位,北京吃“回头草”

CBA最新消息:功勋教头空降广东?庞峥麟上位,北京吃“回头草”

林子说事
2026-07-14 19:01:56
传美军炸死伊朗革命卫队总司令: 伊朗当前最有权力的军方人物

传美军炸死伊朗革命卫队总司令: 伊朗当前最有权力的军方人物

桂系007
2026-07-13 15:15:56
湖北农业发展集团有限公司原总经理陈华志接受审查调查

湖北农业发展集团有限公司原总经理陈华志接受审查调查

界面新闻
2026-07-14 15:01:38
朱珠晒比基尼度假照,生娃后身材依旧能打,这才是高级的性感!

朱珠晒比基尼度假照,生娃后身材依旧能打,这才是高级的性感!

枫尘余往逝
2026-07-13 12:17:52
70年,林立果和林豆豆的合影,注意看林立果的眼神,实在有点吓人

70年,林立果和林豆豆的合影,注意看林立果的眼神,实在有点吓人

元哥说历史
2026-07-07 00:00:06
2026-07-15 02:16:49
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
242文章数 72关注度
往期回顾 全部

科技要闻

AI失业风险正在逼近 "我们连未来都看不清"

头条要闻

168万拍"乾隆梅瓶"仅值250元 受害人:一共卖了我5个亿

头条要闻

168万拍"乾隆梅瓶"仅值250元 受害人:一共卖了我5个亿

体育要闻

“爱哭鬼”教练,凝聚了一盘散沙的阿根廷

娱乐要闻

施南生离世,成龙、甄子丹等发文悼念

财经要闻

为什么说智谱是中国版Anthropic是伪命题

汽车要闻

激光雷达+智舱 看吉利星瑞L PLUS如何让燃油车也更智能

态度原创

游戏
手机
房产
旅游
公开课

《消光困兽》官宣放弃PS4/Xb1版本:老主机带不动!

手机要闻

REDMI Note 17 Pro手机体验:延续小金刚基因,抗摔防水大电量

房产要闻

三亚湾,最魔幻豪宅项目曝光!

旅游要闻

去过腾冲多次温泉,今天才懂清水镇名字由来,看完想去住上半个月

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版