今天的 Meta,多少有点冰火两重天。
旗下社交媒体平台因为被控成瘾性设计对未成年人造成伤害,遭到猛烈追责,相关索赔金额甚至被喊到了几乎与 Meta 总市值持平的 1.4 万亿美元。
或许意识到需要刷刷口碑,那个曾经靠 Llama 把全球开源 AI 圈搅得风生水起、后来却一度让开发者等到悬着的心终于死了的 Meta,突然又举起了开源大旗。
就在刚刚,Meta Superintelligence Labs 正式发布 Muse Glimmer,一个 300 亿参数的开源权重 Agent 模型,并直接挂上相当宽松的 Apache 2.0 许可证。
![]()
Muse Spark 1.2 的权重也会开放
下载、修改、商用,门槛都比较低。
具体而言,Muse Glimmer 只有 30B,却专门为 always-on local agent(常驻本地 Agent)打造, 可以在 Mac 上运行,也可以在配备单张消费级 GPU 的 PC 上运行。
不用一直连着云端,不用每做一步都调用 API。甚至断网之后,它照样能调用本地工具、整理文件、写代码、看截图、处理任务。
![]()
一个足足 300 亿参数、还得会推理、看图、调用工具、连续执行任务的 Agent,那么 Meta 到底是如何把这个 AI 小钢炮塞进普通电脑里的?
30B 的黄金尺寸:不大不小,刚刚好能塞进你的 Mac
在 AI 模型的鄙视链里,尺寸一直是个尴尬的问题。
7B 到 8B 的模型虽然能在手机上跑,但智商往往捉襟见肘,稍微复杂一点的逻辑推理就开始胡言乱语;而 70B 以上的模型虽然聪明,但对内存的胃口大得惊人,普通人根本养不起。
Muse Glimmer 巧妙地切中了 30B 这个黄金甜点位。
但 30B 在全精度下依然需要吃掉超过 55GB 的内存,这显然超出了哪怕是 RTX 5090 的承受极限。为了让它真正「落地」,Meta 动用了一套优化组合拳。
![]()
首先是极其暴力的模型压缩。
通过最新的量化技术,Meta 将模型权重硬生生压缩到了 4-bit 精度,把体积缩减到了 20GB 以下。这就给你的电脑留出了宝贵的显存空间,用来装载上下文记忆(KV cache)和处理图像的多模态编码器。
但光是能跑还不够,它必须得快。
一个思考五分钟才憋出一句话的本地 AI,只会让人想砸键盘。为了解决本地推理慢的顽疾, Muse Glimmer 为投机解码配了一个基于 DFlash 的轻量 drafter。
![]()
具体而言,模型自带了一个极小的「实习生(DFlash 起草模型)」,它负责一口气快速瞎猜并写出一大段 token;然后由 Muse Glimmer 这个「总监(主模型)」进行并行校验,对的保留,错的修改。
这种机制让 Muse Glimmer 彻底摆脱了传统大模型像挤牙膏一样一个词一个词往外蹦」的窘境。在配备 M4-Max、M5-Max 芯片的 MacBook,或是插着 RTX 5090 的 PC 上,它的生成速度快到足以支撑毫无延迟感的实时交互。
![]()
说白了,Meta 用很强的工程能力, 把一个原本需要 60GB 级内存才能舒服运行的模型,压到了 24GB、32GB 级设备可以承载的范围。
不做聊天机器人,只做替你干活的「数字打工人」
关于 Muse Glimmer,Meta 官方给它的定义是:Open Agentic Model(开源智能体模型)。
为了让 Muse Glimmer 具备打工人的素质,Meta 在训练过程中采用了一种基于 logit 的蒸馏技术。
他们让一个极其庞大的老师模型(Muse Spark)去生成复杂的推理链路和 Agent 交互数据,然后手把手教给 Glimmer。
![]()
这也让 Muse Glimmer 掌握了几项优异的能力:
比如 Muse Glimmer 能深入你的操作系统,直接读取你的本地文件、帮你管理日程、甚至直接打开 IDE 帮你写代码(在 SWE-Bench 等硬核测试中表现惊人)。
多模态与视觉感知方面,Muse Glimmer 自带一个独立的视觉感知编码器。这意味着你可以直接丢给它一张充满复杂图表的截图,或者让它看着你的屏幕操作,它能无缝理解多模态信息。
此外,Glimmer 还被专门训练了「容错机制」。当工具调用失败或返回奇怪的结果时,它会像一个真实的人类程序员一样,自己去诊断报错信息,调整参数,然后重新尝试,直到把问题解决。
属于个人的 AI 时代,才刚刚拉开序幕
一个真正有用的个人 Agent,迟早要接触你的文件、日历、照片、代码、聊天记录,甚至长期理解你的工作习惯。
这些东西全部依赖云端,意味着隐私、网络、成本和延迟始终会成为限制。
因此,未来的 Agent 很可能不会只有一种形态。最复杂的任务继续交给云端大模型处理,本地模型则负责那些高频、私密、需要长期驻留设备的工作,二者各自发挥优势。
Muse Glimmer(微光),这个名字起得恰如其分。AI 的下一场竞争,除了谁能把模型做得更大,也包括谁能让足够强的智能,以更低成本跑在更多人的设备上。
未来几天,llama.cpp、Ollama、MLX 这些开发者熟悉的框架,就会陆续支持 Muse Glimmer。
![]()
Muse Glimmer 发布期间,扎克伯格刚刚也发了一篇长文 ,基本是在给 Meta 的 AI 路线定调,声称超级智能交到每个人手里,而不是集中在少数公司。
他设想未来每个人都会有一个个人 Agent,24 小时工作,理解你的目标、工作、健康和生活,并提供强隐私保护,甚至连 Meta 自己都无法查看数据。
从这个角度看,Muse Glimmer 的意义就很清楚了:一个能在本地电脑运行、长期驻留、还能调用工具的 30B Agent,就是「个人超级智能」的现实拼图。
他还再次强调开源的重要性,称这是避免 AI 权力过度集中的关键,并表示 Meta Superintelligence Labs 会重新加大开源力度。
Muse Glimmer,正是这一批模型之一。
![]()
Hugging Face https://huggingface.co/meta-models/Muse-Glimmer-30B
当然,Meta 此时重新把 open-weight 摆到台前,很难让人忽略另一个背景:过去两年,全球大模型开源生态里,中国模型的存在感正在快速上升。
一批批国产模型持续进入 Hugging Face、GitHub 以及全球开发者的工具链,中国团队已经不只是开源模型的参与者,很多时候甚至在不断抬高这场竞争的强度。
Muse Glimmer 只是刚刚加入这场比赛的新选手,而真正越来越热闹的,是它背后正在加速成型的整个开源本地 AI 生态。
属于个人的开源 AI 时代,才刚刚拉开序幕。
我们正在招募伙伴
简历投递邮箱hr@ifanr.com
✉️ 邮件标题「姓名+岗位名称」(请随简历附上项目/作品或相关链接)
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.