网易首页 > 网易号 > 正文 申请入驻

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

0
分享至

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。

这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。

我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。“12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。



第一笔账:12GB是入场券,64GB内存才是账单

45.5 tokens/秒这台机器,插着64GB内存。

官方文档写得很清楚:125B模型跑在12GB显卡加64GB内存上,靠的是PolyStrata推理引擎——把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,靠分层调度运行,不会一次性载入显存。

内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟。有16GB显卡的用户实测后留了一句很直接的话:“他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存”。

“12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是2-bit量化下的稳态速度,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。

省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。



第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端

Another Me是Linger最值得认真看的部分。它持续读你的收件箱、日历和Slack,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准95%,超过Mem0、MemOS。

但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅,每晚整理时读到的邮件和聊天,照样会发给那家服务商。Linger本身不带模型,只是一个壳,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步,并没有完全留在本地模型里。

还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。

“装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立;另一半夜里在跑,账单和数据流向都取决于你接的是谁。



第三笔账:没有沙箱,它拿的是你的系统权限

这是Linger最需要被认真对待的一条边界,官方自己写得很直白。

Linger没有沙箱隔离。 助理直接以你的系统权限执行任务,你已登录的邮箱、桌面文件和命令行它全都能碰。拦住误操作靠的是服务端校验和弹窗确认卡——读取类操作直接执行,发邮件等写入操作才弹确认。

“弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”,权限边界就消失了。有实测者给的建议很务实:先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱。

许可证也值得看一眼。Linger基于Apache 2.0加了商业限制:未经授权,其他企业不得把源码作为托管服务提供给外部用户,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。



它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案

有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。

OpenClaw更侧重接入常用聊天软件,以及Bot和群组之间的协作;Linger更关注人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作。

DS-Bot是基于DeepSeek Harness的插件,模型通过用户配置的API调用;Linger不绑定单一Harness,能接入Claude Code、Codex和Pi,也支持本地模型,重点是让模型与Harness共同优化。

一句话:DS-Bot是“在DeepSeek的框架里加一个Bot”,Linger是“在你的电脑上搭一个可以换引擎的壳”。 你想用本地模型省钱,可以;你想用已有的Claude Code订阅跑长任务,也可以。它不锁你,但也不替你选。



所以,“本地个人Agent的最后一公里”补上了吗

补上的那一公里: 它让“在自己电脑上跑一个能用的大模型Agent”从“极客折腾”变成了一个安装器就能完成的事。Model Autopilot会读你的显卡、内存和带宽,自动挑一个能装下64K上下文的模型,答对一道真题才算安装成功。Another Me的主动记忆和工作流,是云端Agent(Muse/Dots)给不了的那种“它真的知道我在干什么”的体感。

还没补上的那一公里: “本地”不等于“闭环”——后台记忆在云上,外部服务在云上,零Token费只覆盖一半;“无沙箱”意味着你需要自己扮演那道防火墙;“12GB跑125B”需要64GB内存和2-bit量化做前提,45.5 tokens/秒的体验,和云端Agent的即时响应不是一个量级。

它最适合的人: 对数据不出本机有强需求、有一张12GB以上显卡和至少64GB内存、愿意花一个晚上调配置、并且能接受“首字等一会儿”的开发者。它不适合的人: 想要开箱即用、依赖最新联网信息、或者不愿意为“本地”支付硬件和折腾成本的人。

Linger真正改变的不是“Token免不免费”,是“你终于可以自己决定哪一半留在硬盘、哪一半交给云”。 这个选择权,比“零Token费”值钱得多——但前提是,你得知道自己把哪一半交出去了。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

小徐讲八卦
2026-11-22 08:09:49
重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

曼巴体育6
2026-11-22 18:14:53
《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

游民星空
2026-11-22 12:11:17
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

农民日报
2026-11-21 19:13:51
这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

老钱道古今
2026-11-22 08:50:30
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

抽象派大师
2026-11-22 01:39:07
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

遁走的两轮
2026-11-22 14:00:37
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

一丝不苟的法律人
2026-11-20 11:43:40
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

大西体育
2026-11-21 21:46:18
A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

股侠指北针
2026-11-22 17:56:35
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
2026-11-22 18:51:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
旅游
本地
艺术
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

世界十大著名宫殿盘点:中国独占两席

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版