网易首页 > 网易号 > 正文 申请入驻

GLM-5.3 登陆 Hugging Face,本地运行配置公布

0
分享至

GLM-5.3 已在 Hugging Face 平台正式上线。官方账号同步给出了本地运行这套模型所需的硬件配置,从数据中心级的多卡方案到桌面设备都有覆盖。

本地运行配置一览


如果使用 FP8 精度,需要 10 到 12 块 H100,或者 8 块 H200。这是面向有充足算力储备的团队或机构的方案。

更轻量的选择是 4-bit 或 NVFP4 量化,模型体积大约在 390 到 430GB。这个规格可以放进一台 512GB 内存的 Mac Studio,或者由 4 台 DGX Spark 组成的环境来承载。

再往下是激进的 2-bit 量化,体积压缩到 230 到 250GB 左右。一台 256GB 内存的 Mac Studio 或 2 台 DGX Spark 就能跑起来,但官方提醒,这种方案会在生成质量和上下文能力上做出妥协。

量化版本已经开始出现

发布消息提到,第一批 GGUF 和 NVFP4 量化版本已经在社区中陆续出现。对于想尽快在本地尝试的用户来说,这意味着不用从原始权重自己动手转换,可以直接找现成的量化文件。

官方账号在发布时还留了一句提醒:4 小时后就可以下载并运行这套 SOTA 级别的本地 AI,前提是你的算力足够。配文里那句“What a time to be alive”带着明显的兴奋感,发布时间显示为 2026 年 8 月 28 日下午 3 点 08 分。

从配置看定位

从给出的硬件门槛来看,GLM-5.3 的本地部署并不是面向所有普通用户的。FP8 方案动辄需要多块 H100 或 H200,这基本把个人玩家挡在门外。真正有现实意义的是 4-bit 和 2-bit 两条路线,它们把门槛拉到了高端 Mac Studio 和 DGX Spark 这类设备上。

512GB 内存的 Mac Studio 并不是常见配置,256GB 版本同样价格不低。DGX Spark 作为英伟达面向开发者的桌面级 AI 设备,单台算力有限,需要多台组合才能承载这个量级的模型。换句话说,GLM-5.3 的“本地运行”更接近“个人工作站或小型团队可负担”,而不是“随便一台电脑就能跑”。

官方对 2-bit 方案的描述相当克制,直接点出了质量和上下文的 tradeoff。这种表述没有回避量化带来的损失,反而让配置表显得更可信。对于追求极致压缩的用户,230 到 250GB 的体积确实把门槛降到了一个新的位置,但能不能接受输出质量的下降,需要用户自己判断。

GGUF 格式的量化文件出现,意味着 llama.cpp 生态可以较快接入。NVFP4 则对应英伟达较新的硬件支持。两条路线同时出现,说明社区对这套模型的关注度不低,发布后短时间内就有人开始动手做转换和分发。

这次发布没有给出模型参数量、上下文长度或基准测试成绩,官方消息只集中在“上线”和“怎么跑”这两件事上。对于已经关注 GLM 系列的用户来说,配置表本身就是最直接的信息:先确认自己手里的设备够不够,再决定要不要下载。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
孙宇晨你还是吃蕉吧,曝床笫之私太low了

孙宇晨你还是吃蕉吧,曝床笫之私太low了

不主流讲话
2026-08-28 16:12:43
33岁周冬雨整容失败了?脸垮僵硬不敢认似郑秀文,近照变40岁大妈

33岁周冬雨整容失败了?脸垮僵硬不敢认似郑秀文,近照变40岁大妈

八星人
2026-08-27 14:28:20
我读《我的女友景甜》:玩弄女人之后,玩弄文字

我读《我的女友景甜》:玩弄女人之后,玩弄文字

呦呦鹿鸣
2026-08-28 22:31:40
“不如炒盘鸡蛋!”山东家长晒4个孩子晚餐,蛋白质趋近于0!

“不如炒盘鸡蛋!”山东家长晒4个孩子晚餐,蛋白质趋近于0!

林林先生
2026-08-27 19:14:35
“看见你就恶心!”男生化全妆军训被教官骂恶心,哭诉后晒照!

“看见你就恶心!”男生化全妆军训被教官骂恶心,哭诉后晒照!

林林先生
2026-08-28 09:00:08
妻子和19岁女儿在家,被同一男人骗了财和色,2015年丈夫后悔外出打工

妻子和19岁女儿在家,被同一男人骗了财和色,2015年丈夫后悔外出打工

汉史趣闻
2026-08-28 13:37:37
深圳代市长第一站调研,释放新信号!

深圳代市长第一站调研,释放新信号!

深圳梦
2026-08-28 22:53:40
AI x 影视:被重建的剧组和被解放的创作者

AI x 影视:被重建的剧组和被解放的创作者

定焦One
2026-08-28 20:53:17
我正陪省纪委书记吃饭,妻子被单位领导免职,他放下筷子:哪个局

我正陪省纪委书记吃饭,妻子被单位领导免职,他放下筷子:哪个局

千秋文化
2026-08-26 20:43:05
在俄威胁报复背景下,英媒公布全国军事基地分布图

在俄威胁报复背景下,英媒公布全国军事基地分布图

参考消息
2026-08-28 20:45:11
男生考上北大研究生欲迁户口被卡,只因通知书上缺一枚能证明北大资格的印章?上海教育考试院和北大研究生院回应

男生考上北大研究生欲迁户口被卡,只因通知书上缺一枚能证明北大资格的印章?上海教育考试院和北大研究生院回应

极目新闻
2026-08-28 20:26:22
中国能造出会功夫的机器人,但没法让它们干工厂的活儿

中国能造出会功夫的机器人,但没法让它们干工厂的活儿

风向观察
2026-08-28 12:57:14
太敢写了,讲透1976年的惊天转折!

太敢写了,讲透1976年的惊天转折!

尚曦读史
2026-08-28 07:06:59
2-1!利雅得胜利逆转+4战全胜领跑 C罗失空门后制胜 斩生涯第978球

2-1!利雅得胜利逆转+4战全胜领跑 C罗失空门后制胜 斩生涯第978球

我爱英超
2026-08-29 04:11:01
“想摸哪里摸哪里”图片疯传,张小泉紧急辟谣

“想摸哪里摸哪里”图片疯传,张小泉紧急辟谣

南方都市报
2026-08-28 15:29:46
大瓜!圈内大佬曝景甜曾想演《青簪行》女一,神秘男子让他随便定片酬,角色最后被杨紫拿下

大瓜!圈内大佬曝景甜曾想演《青簪行》女一,神秘男子让他随便定片酬,角色最后被杨紫拿下

叨唠
2026-08-29 00:12:54
16岁少年打游戏遭遇裸聊邀约,“有认识的女生拉进来给1000元,长得好看的给2000元”

16岁少年打游戏遭遇裸聊邀约,“有认识的女生拉进来给1000元,长得好看的给2000元”

扬子晚报
2026-08-29 07:03:40
景甜也是高段位大佬

景甜也是高段位大佬

贩财局
2026-08-28 13:40:30
美国媒体集体沉默!老外质疑殷玉珍造假,年入百万的4大收入构成

美国媒体集体沉默!老外质疑殷玉珍造假,年入百万的4大收入构成

经纬戎韬
2026-08-28 03:15:19
蒋超良受贿超7.46亿被判死缓并终身监禁:检举揭发他人有重大立功表现

蒋超良受贿超7.46亿被判死缓并终身监禁:检举揭发他人有重大立功表现

界面新闻
2026-08-28 17:21:37
2026-08-29 10:40:49
字节漫游指南
字节漫游指南
有态度网友ytd
216文章数 111关注度
往期回顾 全部

科技要闻

美团扭亏为盈后,外卖大战结束了吗?

头条要闻

父亲自驾上万公里送娃上学:女儿去黑龙江 儿子去新疆

头条要闻

父亲自驾上万公里送娃上学:女儿去黑龙江 儿子去新疆

体育要闻

曼城花1个亿,买下了摩洛哥的“国民女婿”

娱乐要闻

景甜分手风波,网友:难怪张继科抽身

财经要闻

刑自强:AI投资下半场中国蓄势待发

汽车要闻

东风日产NX8“喜柿橙意”限定色正式上市

态度原创

房产
家居
亲子
数码
军事航空

房产要闻

突发,三亚又大量卖地!

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

现在的小学生砍价这么厉害了吗

数码要闻

7月扫地机线上销量同比增长3.1% TOP4品牌合计份额74.7%

军事要闻

"中华第一舰"退出现役

无障碍浏览 进入关怀版