网易首页 > 网易号 > 正文 申请入驻

XeStrata让三家GPU共跑1250亿参数模型

0
分享至

一张显卡跑不动1250亿参数的模型,这是很多人对本地大模型的默认印象。XeStrata想拆掉这个前提:它让Intel、AMD、NVIDIA三家GPU用同一套代码,在普通PC上跑起Qwen3.8-Flash-Next。


这套软件是免费开源的,开发者MistVVK基于「Strata」的0.1.24版本移植而来,目标很明确——把计算处理从厂商私有技术里抽出来。


为什么绕开CUDA


跑AI计算,NVIDIA有CUDA,AMD有HIP,各家一套。开发者要为每个厂商单独实现一遍计算逻辑,成本直接翻倍。XeStrata选的是Khronos Group制定的开放标准SYCL,同一份计算处理代码,三家GPU通用。

通用不等于放弃硬件加速。SYCL之下,各家专用演算机构照用不误:

  • Intel:XMX
  • AMD:WMMA
  • NVIDIA:Tensor Core

NVIDIA这边还向下兼容到Tensor Core出现之前的Pascal世代,代价是处理速度会低于能用专用演算机构的GPU。

两种构建方式,一条开源底线

XeStrata准备了两种构建配置,区别在于是否引入厂商私有库:

  • free:只用可查看、修改、再分发的开源软件,支持Intel与AMD GPU。
  • contrib-llvm:支持Intel、AMD、NVIDIA三家,可调用Intel的oneMKL、NVIDIA的cuBLAS等厂商演算库提速。

XeStrata本身以LGPL-3.0及以后版本发布,从Strata继承的代码继续保留MIT许可。在NVIDIA GPU上运行,需要装NVIDIA的驱动。

混插不同厂商的显卡

一台PC里装多块GPU,XeStrata能把模型层拆开分给它们,Intel配NVIDIA这种跨厂商组合也成立。用两块GPU时还有第二种玩法:第二块当辅助缓存。软件会估算两种方式的处理时间,预测辅助缓存方式快5%以上就自动切过去。

版本号也带着血缘。XeStrata的编号跟着它吸收的Strata版本走,比如xe0.2.2-1,意思是基于Strata 0.2.2的第一次XeStrata发布。Strata本家的功能追加和问题修复会被持续合并进来,合并前要在Intel Arc Pro B70、GeForce RTX 4070、Radeon RX 9060 XT等卡上测速,只挑对XeStrata有效的优化。

跑起来要什么配置

官方给出的主要环境要求:

  • GPU:Intel Arc A、B系列,AMD Radeon RDNA2及以后的部分产品,NVIDIA Pascal及以后
  • 显存:建议12GB以上
  • CPU:支持AVX2的x86-64处理器
  • 内存:通常32~62GB左右
  • 系统:Windows、Linux

Windows二进制和Linux软件包已在GitHub放出,也支持用Podman在容器环境里跑。

除了继承来的Qwen3.8-Flash-Next,XeStrata还以测试版形式支持4种结构不同的模型:面向小内存PC的Ornith-1.5-35B-A3B、支持日英双语的推理模型llm-jp-4.1-32b-a3b-thinking、同样面向小内存的Qwen3.6-35B-A3B,以及面向大内存PC的GLM-5.3-Flash。这4种模型目前只做文本生成,不支持图像输入和生成。

Strata本家现在也在Linux上支持了Intel GPU,XeStrata则继续把自行移植的计算处理推向三家GPU共用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

巷北楠猫本尊
2026-11-16 16:00:00
天生鬼才的五大星座!

天生鬼才的五大星座!

别人都叫我阿螫
2026-11-18 15:33:09
Anthropic,正在用AI创造一种全新的企业组织

Anthropic,正在用AI创造一种全新的企业组织

未尽研究
2026-10-29 02:19:57
内娱姐妹花:决裂10年,拒绝复合

内娱姐妹花:决裂10年,拒绝复合

最人物
2026-11-18 15:45:33
诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

史明人生
2026-11-18 19:45:09
西红柿为啥变难吃了?不是农业倒退,而是人类被迫交的“生存税”

西红柿为啥变难吃了?不是农业倒退,而是人类被迫交的“生存税”

浩渺青史
2026-11-18 03:14:52
麦考利·卡尔金再演《小鬼当家》:这次他让麦当劳全员消失

麦考利·卡尔金再演《小鬼当家》:这次他让麦当劳全员消失

自愈小日子
2026-11-18 03:00:27
晨起喝温水是错的?医生苦劝:不想住进医院,晨起喝水牢记5点

晨起喝温水是错的?医生苦劝:不想住进医院,晨起喝水牢记5点

健康之光
2026-07-30 20:15:03
成都成华区一外卖员凌晨送餐在业主门口翻鞋柜、细看女鞋,已报警

成都成华区一外卖员凌晨送餐在业主门口翻鞋柜、细看女鞋,已报警

不写散文诗
2026-11-18 11:21:10
央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

晓肂爱八卦
2026-11-17 20:47:39
远超2008年?多位专家预言2027年可能爆发金融危机,共有五大因素

远超2008年?多位专家预言2027年可能爆发金融危机,共有五大因素

磊子讲史
2026-10-28 16:22:52
海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

小月文史
2024-11-19 21:11:58
萨穆埃尔告别阿根廷队:感谢大家的配合,这些年过得非常精彩

萨穆埃尔告别阿根廷队:感谢大家的配合,这些年过得非常精彩

懂球帝
2026-11-18 20:04:29
安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

LULU生活家
2025-11-06 18:29:11
演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

韩小娱
2026-11-16 11:58:27
德国清退数千架中国无人机,禁令管牌子不管零件

德国清退数千架中国无人机,禁令管牌子不管零件

反做空一线
2026-11-17 23:51:47
黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

野生运营
2026-11-17 07:44:55
洪金宝长子洪天明自曝全家定居杭州生活!曾和周家蔚长期分居,多次提离婚

洪金宝长子洪天明自曝全家定居杭州生活!曾和周家蔚长期分居,多次提离婚

TVB剧评社
2026-11-18 16:39:30
博主吐槽PS5版《GTA6》性能堪称噩梦 还有延迟问题

博主吐槽PS5版《GTA6》性能堪称噩梦 还有延迟问题

游民星空
2026-11-18 23:28:03
炸锅,最近银行低风险理财都亏麻了!

炸锅,最近银行低风险理财都亏麻了!

樱桃大房子
2026-11-19 00:19:27
2026-11-19 02:23:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
208文章数 90关注度
往期回顾 全部

数码要闻

华为WATCH Air真机曝光:方形设计、钛金属表体,消息称续航可达5天

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

科技要闻

离职后首份声明!黄仁勋认错愿回归

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
健康
亲子
本地
家居

穿好“长大衣”,这8个细节很重要!

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

产后女性如何重回性生活质量?专家支招

本地新闻

乌兰察布:以前种土豆,现在种Token

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版