网易首页 > 网易号 > 正文 申请入驻

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

0
分享至

快科技2月12日消息,DeepSeek持续火爆,大家都在体验,但因为服务器承受能力有限,经常会遇到无响应,因此本地部署体验就成了更好的选择,具体规模取决于硬件配置。

AMD是最早在x86处理器领域引入AI能力的,锐龙7040系列就率先集成了独立的NPU AI引擎,此后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列都越发强大。

AMD锐龙AI处理器拥有目前行业最强的NPU,算力高达50 TOPS(每秒50万亿次计算),自然是体验DeepSeek的上佳选择。

如果你有一台锐龙AI笔记本,现在就可以通过LM Studio,轻松在本地部署、体验DeepSeek R1精简版推理模型。

具体操作方式如下:

1、安装AMD Adrenalin 25.1.1或更新版显卡驱动。

2、打开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版本。

3、安装启动LM Studio,可以直接跳过引导屏幕。

4、点击"发现"(discover)标签页。

5、选择适合自己的DeepSeek R1 Distill。具体如何选择见后。

6、在软件页面右侧,勾选"Q4 K M"量化模式,然后点击"下载"。

7、下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选"手动选择参数"(manually select parameters)选项。

8、在"GPU卸载"(GPU offload)中,将滑块移到最大值。

9、点击"模型加载"(model load)。

10、好了,可以在本地体验DeepSeek R1推理模型了!

不同参数规模的大模型,决定了其性能和体积,因此不同的硬件设备需要选择最适合自己的参数量。

如果是顶级的锐龙AI MAX+ 395处理器,搭配64GB、128GB内存,最高可以支持DeepSeek-R1-Distill-Llama-70B,注意64GB内存的话需要将可变显存设置为高。

搭配32GB内存,可变显存自定义为24GB,则能支持到DeepSeek-R1-Distill-Qwen-32B。

如果是锐龙AI HX 370、AI 365处理器,搭配24GB、32GB内存,可以支持DeepSeek-R1-Distill-Qwen-14B。

如果是锐龙7040/8040系列,需要搭配32GB内存,才能支持到DeepSeek-R1-Distill-Qwen-14B。

另外,AMD推荐将所有Distill运行在Q4 K M量化模式。

如果你使用的是台式机,AMD RX 7000系列显卡也都已支持本地部署DeepSeek R1。

其中,RX 7900 XTX旗舰显卡最高支持DeepSeek-R1-Distill-Qwen-32B,RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均可以支持到DeepSeek-R1-Distill-Qwen-14B,RX 7600以及新发布的RX 7650 GRE则适合到DeepSeek-R1-Distill-Llama-8B。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
安徽6名干部被查,涉嫌严重违纪违法

安徽6名干部被查,涉嫌严重违纪违法

凤凰网安徽
2026-07-09 19:55:32
钱再多有什么用?47岁在家晕倒进急诊的刘璇,给所有人敲响了警钟

钱再多有什么用?47岁在家晕倒进急诊的刘璇,给所有人敲响了警钟

白面书誏
2026-07-07 18:25:31
一位性学专家说句糙理不糙的话:跟一百个人睡一次,那是本能——

一位性学专家说句糙理不糙的话:跟一百个人睡一次,那是本能——

小影的娱乐
2026-07-04 13:15:48
多位艺人发声讨债,同一导演录制的新节目8日因资金链断裂停拍

多位艺人发声讨债,同一导演录制的新节目8日因资金链断裂停拍

极目新闻
2026-07-09 16:59:34
长腿黑丝美女:那不是视角,是目光落在我腿上的时候

长腿黑丝美女:那不是视角,是目光落在我腿上的时候

疾跑的小蜗牛
2026-07-08 21:53:17
3胜3负警报!中国男篮名单动真格,4人召回4人出局周琦赵睿回归!

3胜3负警报!中国男篮名单动真格,4人召回4人出局周琦赵睿回归!

江启
2026-07-09 15:29:38
气象部门:北京这场暴雨时间长、雨量大,个别点将有特大暴雨

气象部门:北京这场暴雨时间长、雨量大,个别点将有特大暴雨

新京报
2026-07-09 14:46:11
京东方A发布上半年业绩预告:预计净利50亿元~55亿元,同比增长54%~69%

京东方A发布上半年业绩预告:预计净利50亿元~55亿元,同比增长54%~69%

每日经济新闻
2026-07-09 11:37:09
上海部分景区景点闭园,活动延期!台风“巴威”已闭眼,对申城影响进一步明确

上海部分景区景点闭园,活动延期!台风“巴威”已闭眼,对申城影响进一步明确

上观新闻
2026-07-09 20:13:29
台风里的“巨无霸”,云系直径超1300公里,足以把东部四五个省份给罩进去!超强台风“巴威”登陆方式仍存在不确定性

台风里的“巨无霸”,云系直径超1300公里,足以把东部四五个省份给罩进去!超强台风“巴威”登陆方式仍存在不确定性

都市快报橙柿互动
2026-07-09 02:53:04
豪掷3.8亿,光特效就砸了1.9亿,周星驰这场豪赌,能回本吗?

豪掷3.8亿,光特效就砸了1.9亿,周星驰这场豪赌,能回本吗?

娱乐圈十三太保
2026-07-07 17:20:25
大码模特现实里到底多大?

大码模特现实里到底多大?

飛娱日记
2026-05-12 08:27:55
莫言:当我看到一个女人手上没有手镯、手链,脖子上没有项链,我能确定她在这3个方面是非常“特别”的女人

莫言:当我看到一个女人手上没有手镯、手链,脖子上没有项链,我能确定她在这3个方面是非常“特别”的女人

背包旅行
2026-07-09 11:54:26
台风“巴威” 体型巨大,几乎可覆盖9个浙江!

台风“巴威” 体型巨大,几乎可覆盖9个浙江!

上游新闻
2026-07-09 11:11:11
LV案余波来了!浙江大学连夜注册阿玛尼全类别商标,所有小商家沉默了

LV案余波来了!浙江大学连夜注册阿玛尼全类别商标,所有小商家沉默了

小徐讲八卦
2026-07-09 07:24:02
曾和儿子换血求“长生不老”,48岁美国富豪确诊不治之症:我的胃在吞噬自己;每年投入200万美元组建30人医疗团队,采用极端严苛饮食作息

曾和儿子换血求“长生不老”,48岁美国富豪确诊不治之症:我的胃在吞噬自己;每年投入200万美元组建30人医疗团队,采用极端严苛饮食作息

都市快报橙柿互动
2026-07-08 01:31:34
兆易创新:预计2026年上半年净利润为69亿元左右,同比增长1099%左右

兆易创新:预计2026年上半年净利润为69亿元左右,同比增长1099%左右

每日经济新闻
2026-07-09 18:08:41
全进华不再隐瞒!坦言和张家齐真实关系,这下全红婵更有底气了

全进华不再隐瞒!坦言和张家齐真实关系,这下全红婵更有底气了

乐天闲聊
2026-07-09 18:53:49
17级以上!超强台风“巴威”将影响江苏!时间预计在..……

17级以上!超强台风“巴威”将影响江苏!时间预计在..……

江苏警方
2026-07-09 00:36:19
果然被我猜中了!第一把火就烧向了中国!

果然被我猜中了!第一把火就烧向了中国!

故事终将光明磊落
2026-07-08 10:00:52
2026-07-09 21:51:00
快科技 incentive-icons
快科技
一起关注每日科技热点
118615文章数 260757关注度
往期回顾 全部

数码要闻

苹果再度上调M5 Max版16英寸MacBook Pro顶配售价 暴涨接近1000美元

头条要闻

福建晋江一鞋厂发生火灾 目击者发声

头条要闻

福建晋江一鞋厂发生火灾 目击者发声

体育要闻

王楚谈埃及判罚争议:足球没有绝对公平

娱乐要闻

陈翔发文“苍天饶过谁”登热搜,旧事再引关注

财经要闻

中国房地产十年

科技要闻

字节杀回来了!深度实测Seedream 5.0 Pro

汽车要闻

长续航智美纯电轿跑 奇瑞风云A9开启预售11.59万起

态度原创

手机
教育
艺术
时尚
军事航空

手机要闻

因电池容量提升!iPhone 18 Pro Max手机厚度将达到9mm

教育要闻

2026上海中考查分、录取日程表!7.14出分,7.23开始发放通知书!

艺术要闻

元代草书的“天花板”,水平超越赵孟頫!

裙子专场|| 今年夏天的“好身材”,就靠它了

军事要闻

四川舰甲板全貌完整亮相 专家:离正式交付不远

无障碍浏览 进入关怀版