网易首页 > 网易号 > 正文 申请入驻

Strata+5090:刚被统一内存逼到墙角,传统显卡又杀回来了!

0
分享至

AI 硬件市场,可能又要迎来一次大反转了。

过去一年,英伟达和 AMD 都在力推大容量统一内存设备。从 DGX Spark、RTX Spark,到 AMD Ryzen AI Max+ 395、495,128GB 甚至更大容量的统一内存,几乎成了桌面 AI 工作站最受关注的卖点之一。我们至顶 AI 实验室也陆续评测了这些机器。

市场的反应相当直接。DGX Spark 在海外一度卖断货,部分渠道出现明显溢价,甚至有报价达到 8499 美元,而它的起售价只有 3999 美元。


为什么这么多人愿意买单?

答案很简单:128GB 统一内存意味着,一台桌面大小的机器,就有机会装下并运行千亿参数级的大模型。而传统游戏显卡,即便是售价不菲的 RTX 5090,也只有 32GB 显存。面对动辄数十 GB、上百 GB 的模型权重,显存容量很快就成了瓶颈。

一时间,统一内存似乎已经拿到了本地大模型时代的入场券,传统显卡则显得有些尴尬。

然而,就在大容量统一内存设备风头正盛的时候,一个叫 Strata 的开源项目突然杀了出来。

它让一张只有 32GB 显存的 RTX 5090,也能运行总参数量高达 1250 亿的大模型。Strata 通过显存、系统内存乃至磁盘之间的数据调度,突破了模型必须全部装进显存的限制。项目在 GitHub 上已经获得超过 2.7 万颗 Star。

今天不说模型具体怎么启动,我们来看一个真实的测试,通过Strata启动模型,干活是什么感觉。

视频博主Bijan Bowen 组装了一台华硕提供的电脑,先让较小的 Qwen3.8-27B 制作赛车游戏,再用 Strata 运行 Flash-Next 完成同一道题,最后与 Claude Opus 4.6 的结果对照。三轮测试既展示了本地模型的进步,也留下了不少需要人来发现和反馈的问题。

测试电脑使用华硕 ROG Astral RTX 5090,这张卡配有32GB GDDR7 显存。显存决定了能放入多少模型权重和运行数据;带宽则影响模型读取这些数据的速度。Bowen也说了,这是一台厂商提供的机器,看结果时需要记住它的硬件条件。

先用 Qwen3.8-27B 打个样,游戏能跑,但仍需云端模型救场

第一轮上场的是Qwen3.8-27B。这是 Qwen 发布的 270 亿参数稠密模型;所谓“稠密”,可以简单理解为生成内容时,模型的大部分参数都会参与计算。Bowen使用 Q4_K_M 四位量化版本,把权重文件压到约 17—18GB,并把上下文长度设在约 26.2 万 token。量化是用较低精度保存权重,换取更小的内存占用;上下文越长,运行时预留的空间通常也越多。因此博主判断,若把上下文缩短到 32K,这个版本有机会在 24GB 显存的卡上运行,但视频没有实际验证这一配置。

任务并不简单:做一款 F1 风格小游戏,要有赛道、车辆与车手选择、至少六名电脑对手、驾驶舱和追车视角,还要有音效。模型通过 Blender 制作三维素材,再用 Godot 搭建游戏。跑出来的版本已经有可移动的对手、迷你地图和圈数显示,但整体较简陋,部分选择流程也不顺畅。博主估计,约 95% 的工作由本地模型完成;遇到卡住的环节,他曾借助更强的云端模型给出提示。这是一个能玩的结果,却不是完全独立完成的结果。

Strata 登场,1250 亿参数模型启动

接下来才是 Strata 的关键一轮。Qwen3.8-Flash-Next与前面的 27B 稠密模型结构不同:它是总参数量约 1250 亿的混合专家模型,每次生成只调用其中一部分参数。Strata 把运行所需的数据分配到显存、系统内存,必要时也利用磁盘,让整套权重不必全部塞进显卡。项目说明给出的基础门槛包括至少 12GB 显存的受支持显卡;12GB 显存只是“能启动”的门槛。视频中的速度来自 RTX 5090,换成普通显卡后,等待时间可能完全不是一回事。


每秒 170 Token,本地模型修BUG

博主选用约三位精度的 IQ3_S 量化版本,仍给它同一道赛车游戏题。此前一次 BMX 游戏试做曾出现角色反复从半空坠落的故障;这回赛车项目的开场画面和 Blender 场景明显更丰富,能看到赛车、维修区、看台和树木。但按下车手与车辆选择后,画面一度只剩浅蓝色。博主把现象反馈给模型,模型重新检查并修好入口;随后它又根据反馈修正了车轮转动方向。实际游玩仍有方向控制反转、地图形状异常等问题。视频显示,生成速度在相关阶段约为每秒 160—170 token;这个数字描述的是输出速度,不能单独代表游戏质量。


对阵 Claude Opus 4.6,本地方案意外占了上风

为了找参照,博主又让Claude Opus 4.6用相同提示词制作游戏。他选择中等推理强度,通过 API 付费调用。Opus 4.6 是 Anthropic 于 2026 年 2 月发布的模型;其标准 API 标价为每百万输入 token 5 美元、输出 token 25 美元。视频里首次生成花了约 2 美元,继续排查故障后累计接近 4.5 美元。这个版本也遇到选择车辆后卡住、赛道上疑似有隐形碰撞体等问题,博主认为完成度不如 Strata 那一轮。

单从这次测试看,1250 亿参数的本地模型意外地击败了 Opus 4.6。当然,模型对比不算严格,因为模型、量化精度和推理设置都不一致,过程中还有人工反馈。不能说明本地模型普遍强于云端模型。

最重要的点是本地模型已经走到了可以调用 Blender、Godot,反复修改一个可运行项目的阶段。对 Strata 来说,这已经是一个足够值得关注的信号。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
震撼!超美博主卧底炼铜群!保存大量偷拍QJ交换幼女等证据!

震撼!超美博主卧底炼铜群!保存大量偷拍QJ交换幼女等证据!

魔都囡
2026-10-20 07:17:24
第一作者承认,新冠疫苗论文造假

第一作者承认,新冠疫苗论文造假

药时空
2026-10-19 18:54:21
五常就剩下中国了

五常就剩下中国了

凤眼论
2026-10-19 16:41:44
随州市广水市委书记崔传金接受纪律审查和监察调查

随州市广水市委书记崔传金接受纪律审查和监察调查

环球网资讯
2026-10-19 19:46:34
韩国知名编剧爆猛料:总统李在明是靠朝鲜扶植上位,已掌握相关证据

韩国知名编剧爆猛料:总统李在明是靠朝鲜扶植上位,已掌握相关证据

西游日记
2026-10-20 08:34:30
港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

韩小娱
2026-10-20 09:20:08
具身智能迎来范式跃迁!EinsiaAI发布EmbodiedEvo,自进化Coding Agent登顶具身珠峰Robodojo

具身智能迎来范式跃迁!EinsiaAI发布EmbodiedEvo,自进化Coding Agent登顶具身珠峰Robodojo

机器之心Pro
2026-10-15 15:49:51
悲催!安徽33岁美女南太行露营,17日晚失联,18日发布寻人启事,19日在帐篷附近水沟找到遗体,出事水沟距离其帐篷仅十余米

悲催!安徽33岁美女南太行露营,17日晚失联,18日发布寻人启事,19日在帐篷附近水沟找到遗体,出事水沟距离其帐篷仅十余米

火山詩话
2026-10-20 06:19:44
造成23人遇难、其中包括17名中国公民,韩国华城电池厂火灾案,终审判了

造成23人遇难、其中包括17名中国公民,韩国华城电池厂火灾案,终审判了

澎湃新闻
2026-10-20 10:54:06
好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

皮蛋儿电影
2026-10-20 09:58:37
菲律宾有人继续搞鬼,想对我大使如何?

菲律宾有人继续搞鬼,想对我大使如何?

新民周刊
2026-10-20 09:06:39
马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

混沌录
2026-10-20 00:38:08
中央党报发声,懂车帝的商业模式悬了

中央党报发声,懂车帝的商业模式悬了

起点财经
2026-10-20 08:49:41
美国新闻周刊封面炸了!五人穿红军装骑单车,白宫彻底坐不住了

美国新闻周刊封面炸了!五人穿红军装骑单车,白宫彻底坐不住了

麓谷隐士
2026-10-20 00:10:04
开除、遣返?!身披旭日旗的留学生,两段道歉视频曝光

开除、遣返?!身披旭日旗的留学生,两段道歉视频曝光

史海流年号
2026-10-18 23:32:18
葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

懂球帝
2026-10-20 02:39:12
太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

火山詩话
2026-10-19 07:59:53
每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

三言四拍
2026-10-19 20:26:19
张雪官宣首款电摩明年上市,目标直指全球头部阵营

张雪官宣首款电摩明年上市,目标直指全球头部阵营

界面新闻
2026-10-20 11:09:45
湖人正式裁掉克内克特!新赛季15+3阵容出炉:东契奇小里领衔

湖人正式裁掉克内克特!新赛季15+3阵容出炉:东契奇小里领衔

罗说NBA
2026-10-20 05:29:15
2026-10-20 12:12:49
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3532文章数 186关注度
往期回顾 全部

数码要闻

苹果官宣10月28日新品发布会:触屏MacBook Pro或亮相

头条要闻

媒体:菲律宾对中国的有些举动已经属于蹬鼻子上脸

头条要闻

媒体:菲律宾对中国的有些举动已经属于蹬鼻子上脸

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

这些科技股王,为什么总输给茅台?

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

汽车要闻

方盒子家族再添新成员 捷途自由者7实车体验

态度原创

房产
亲子
健康
手机
艺术

房产要闻

最新房价:海口,三亚齐跌!

亲子要闻

天然奶源如何进入配方科学,周鹏教授解析婴幼儿胃肠消化健康

看着很健康的人,怎么会突然猝死?

手机要闻

酷派首款阔直板手机Cool X Wide开启预约:6.38英寸16:10屏幕

艺术要闻

这对福建夫妻,先婚后爱,30多年亦师亦友

无障碍浏览 进入关怀版