网易首页 > 网易号 > 正文 申请入驻

本地大模型工具二选一:实测LM Studio与TextGen

0
分享至

我折腾本地大模型已经两年了。最早用llama.cpp在命令行里硬跑,后来图方便换了LM Studio,再后来需要精细调采样参数和LoRA,又切回了text-generation-webui——现在改名叫TextGen。上周刷Reddit看到TextGen出了原生桌面版,我干脆花了个周末把俩工具并排测了一遍。

这事现在值得聊,是因为LM Studio长期占据着"开箱即用"的生态位:安装包丝滑、自带模型浏览器、点两下就能起OpenAI兼容服务。但它是闭源的。对有些团队来说这是硬伤——跑敏感代码或数据时,二进制文件里到底在干什么,你没法审计。


TextGen(GitHub上oobabooga维护的项目)一直是开源阵营的标杆。代价是之前得从终端启动Gradio网页界面,功能强但不像正经桌面应用。按Reddit公告的说法,现在打包成桌面应用了。我没去翻官方changelog逐条核对,所以"往这个方向走"是更准确的描述,不算功能审计。


直接说体感差异,跳过营销话术。

LM Studio

上手:顶级。下载、安装、点模型、开聊。我那个不写代码的兄弟自己装好了,全程没问我。

找模型:内置Hugging Face浏览器,带量化过滤。省大量点击。

本地服务:一个开关就在localhost:1234起OpenAI兼容端点。这是真·杀手功能。

闭源:没法审计、没法fork、没法塞进你自己的产品。

授权:个人免费;商用有单独条款,自己读。


TextGen

上手:比以前强。桌面打包去掉了"开终端祈祷"那一步,之前这步吓退不少人。

扩展性:RAG、TTS、角色卡、训练适配器都有扩展。想折腾大多数应用藏起来的采样参数,全敞着。

后端:支持llama.cpp、Transformers、ExLlamaV2等——做benchmark或处理非GGUF格式时有用。

开源:AGPL协议。每行都能读、能patch、能自托管。

精致度:某些地方还是比LM Studio糙。UI更密。对高级用户是特性,对普通用户是bug。

开发者真正关心的不是哪个UI好看,是"怎么让我的应用连上它"。俩都暴露OpenAI兼容API,迁移基本就是改个base URL。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
# 解绑后的阿森纳,今夜欧冠决赛能有多狂?

# 解绑后的阿森纳,今夜欧冠决赛能有多狂?

日常碎碎念啊
2026-05-31 01:49:43
耿同学的北航博导杨昀:论文不让国内看,跟肖飞合作,清华本硕没有一作

耿同学的北航博导杨昀:论文不让国内看,跟肖飞合作,清华本硕没有一作

小小河
2026-05-29 22:41:27
《歌手2026》第二期落幕,3人镀金失败,2人火出国,1人被骂惨

《歌手2026》第二期落幕,3人镀金失败,2人火出国,1人被骂惨

白面书誏
2026-05-30 17:04:26
杨紫被围剿了?《生命树》被平台标注白玉兰奖,质疑吐槽接踵而至

杨紫被围剿了?《生命树》被平台标注白玉兰奖,质疑吐槽接踵而至

影视地平线
2026-05-30 18:01:43
03年毒杀案:苏州白衣屠夫,用2年把妻子毒成心脏病后,实施灭口

03年毒杀案:苏州白衣屠夫,用2年把妻子毒成心脏病后,实施灭口

墨策史
2026-05-29 10:47:10
一部作品毁掉演艺生涯的12位演员

一部作品毁掉演艺生涯的12位演员

胶片猴
2026-05-29 13:07:13
欧冠决赛直播:大巴黎对阵阿森纳,恩里克卫冕之战

欧冠决赛直播:大巴黎对阵阿森纳,恩里克卫冕之战

陈錈爱体育
2026-05-31 00:18:35
连14站大满贯进16强!世界第一萨巴伦卡送蛋横扫 将战大坂直美

连14站大满贯进16强!世界第一萨巴伦卡送蛋横扫 将战大坂直美

醉卧浮生
2026-05-30 21:50:50
黑马本色尽显!淘汰郑钦文之人逆转前世界第3,首进大满贯16强

黑马本色尽显!淘汰郑钦文之人逆转前世界第3,首进大满贯16强

全景体育V
2026-05-30 19:31:56
瞒不住了?比亚迪发布4nm芯片被全网扒,大家其实都弄错了重点!

瞒不住了?比亚迪发布4nm芯片被全网扒,大家其实都弄错了重点!

李将平老师
2026-05-29 20:24:30
消费新图景|银发经济解锁品质养老新生活

消费新图景|银发经济解锁品质养老新生活

新华社
2026-05-30 10:25:40
6.4万的“特斯拉FSD”,你会买吗?

6.4万的“特斯拉FSD”,你会买吗?

中国新闻周刊
2026-05-30 22:05:16
昨晚红毯:欧阳娜娜真空上阵、赵露思腋下黑又脏、刘诗诗咋变成这

昨晚红毯:欧阳娜娜真空上阵、赵露思腋下黑又脏、刘诗诗咋变成这

一娱三分地
2026-05-30 13:00:38
40岁教师咽痒、干咳,一度以为肺癌……医生只给三个“土办法”,不吃药就奇迹好转

40岁教师咽痒、干咳,一度以为肺癌……医生只给三个“土办法”,不吃药就奇迹好转

呼吸界
2026-05-30 18:06:24
皮特再遭暴击!长子申请改掉父姓

皮特再遭暴击!长子申请改掉父姓

赴一场山海啊
2026-05-30 00:21:17
皇马夏窗引援全解析:穆里尼奥钦点三大目标,中锋位置竟没有选项

皇马夏窗引援全解析:穆里尼奥钦点三大目标,中锋位置竟没有选项

穆里尼奥主义者
2026-05-30 13:56:22
烂透了!当下食品行业的道德底线,早已被贪婪的利益彻底碾碎。

烂透了!当下食品行业的道德底线,早已被贪婪的利益彻底碾碎。

二大爷观世界
2026-05-29 00:21:23
一个家最好的风水,从来不是优秀的孩子,而是被善待的妈妈

一个家最好的风水,从来不是优秀的孩子,而是被善待的妈妈

青苹果sht
2026-05-30 05:15:46
我如今已68了,以亲身血泪教训告诉你:不要跟任何人,包括你的父母、子女、枕边人,分享这两件事

我如今已68了,以亲身血泪教训告诉你:不要跟任何人,包括你的父母、子女、枕边人,分享这两件事

心理观察局
2026-05-23 07:00:06
56岁拉丁天后比基尼照曝光,前夫纹身被巧妙遮盖

56岁拉丁天后比基尼照曝光,前夫纹身被巧妙遮盖

赴一场山海啊
2026-05-30 01:25:07
2026-05-31 02:20:49
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
4282文章数 70关注度
往期回顾 全部

科技要闻

车圈大佬发声:价格战远去,但竞争仍残酷

头条要闻

两名9岁女孩被困电梯近2小时 求救几十次物业无动于衷

头条要闻

两名9岁女孩被困电梯近2小时 求救几十次物业无动于衷

体育要闻

岁月不饶人!39岁德约鏖战近5小时拼到呕吐

娱乐要闻

张碧晨《歌手》 “活人微死” 自嘲

财经要闻

双汇管不住一头猪

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

时尚
本地
艺术
健康
公开课

美回巅峰的她们,带火的这些爆款真的好用吗

本地新闻

用剪纸的方式,打开江苏扬州

艺术要闻

非洲超级地标!全球最大足球场,持续推进!

尝试干细胞疗法如何避免踩坑?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版