本地运行配置
GLM 5.2 flash Q2 版本在一台配备 128GB 内存的 M5 Max 上完成运行。该版本由作者本人基于 DwarfStar GGUF 的 DS4 Flash 类似配方生成。
![]()
双机并行推理
Q4 权重同样可用,并支持在 两台 M5 Max 系统 上进行张量并行推理。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.