网易首页 > 网易号 > 正文 申请入驻

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

0
分享至

快科技2月12日消息,DeepSeek持续火爆,大家都在体验,但因为服务器承受能力有限,经常会遇到无响应,因此本地部署体验就成了更好的选择,具体规模取决于硬件配置。

AMD是最早在x86处理器领域引入AI能力的,锐龙7040系列就率先集成了独立的NPU AI引擎,此后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列都越发强大。

AMD锐龙AI处理器拥有目前行业最强的NPU,算力高达50 TOPS(每秒50万亿次计算),自然是体验DeepSeek的上佳选择。

如果你有一台锐龙AI笔记本,现在就可以通过LM Studio,轻松在本地部署、体验DeepSeek R1精简版推理模型。

具体操作方式如下:

1、安装AMD Adrenalin 25.1.1或更新版显卡驱动。

2、打开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版本。

3、安装启动LM Studio,可以直接跳过引导屏幕。

4、点击"发现"(discover)标签页。

5、选择适合自己的DeepSeek R1 Distill。具体如何选择见后。

6、在软件页面右侧,勾选"Q4 K M"量化模式,然后点击"下载"。

7、下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选"手动选择参数"(manually select parameters)选项。

8、在"GPU卸载"(GPU offload)中,将滑块移到最大值。

9、点击"模型加载"(model load)。

10、好了,可以在本地体验DeepSeek R1推理模型了!

不同参数规模的大模型,决定了其性能和体积,因此不同的硬件设备需要选择最适合自己的参数量。

如果是顶级的锐龙AI MAX+ 395处理器,搭配64GB、128GB内存,最高可以支持DeepSeek-R1-Distill-Llama-70B,注意64GB内存的话需要将可变显存设置为高。

搭配32GB内存,可变显存自定义为24GB,则能支持到DeepSeek-R1-Distill-Qwen-32B。

如果是锐龙AI HX 370、AI 365处理器,搭配24GB、32GB内存,可以支持DeepSeek-R1-Distill-Qwen-14B。

如果是锐龙7040/8040系列,需要搭配32GB内存,才能支持到DeepSeek-R1-Distill-Qwen-14B。

另外,AMD推荐将所有Distill运行在Q4 K M量化模式。

如果你使用的是台式机,AMD RX 7000系列显卡也都已支持本地部署DeepSeek R1。

其中,RX 7900 XTX旗舰显卡最高支持DeepSeek-R1-Distill-Qwen-32B,RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均可以支持到DeepSeek-R1-Distill-Qwen-14B,RX 7600以及新发布的RX 7650 GRE则适合到DeepSeek-R1-Distill-Llama-8B。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄或正为全面动员做准备

俄或正为全面动员做准备

名人苟或
2026-05-27 13:56:22
血债惊全球!47条人命炸穿底线!中方怒斥:这事没完!

血债惊全球!47条人命炸穿底线!中方怒斥:这事没完!

达文西看世界
2026-05-26 15:42:43
打虎!江西省委常委李伟被查

打虎!江西省委常委李伟被查

新京报
2026-05-27 18:05:17
孙兴慜:看到热刺为保级而战我很难受;有时候会想我是不是离开太早了

孙兴慜:看到热刺为保级而战我很难受;有时候会想我是不是离开太早了

懂球帝
2026-05-27 12:00:10
这一回,轮到烟草员工开始没心情上班了?干活没底气了?

这一回,轮到烟草员工开始没心情上班了?干活没底气了?

今朝牛马
2026-05-26 20:40:56
极端高温下,印度人想炸开喜马拉雅山送走热浪,这可能吗?

极端高温下,印度人想炸开喜马拉雅山送走热浪,这可能吗?

有范又有料
2026-05-26 17:04:40
阿斯:巴萨有意戈登,纽卡或要价近8000万欧

阿斯:巴萨有意戈登,纽卡或要价近8000万欧

懂球帝
2026-05-27 17:19:24
弗爷宣布竞选连任皇马主席:掌舵世界最佳,要再带来世界最佳球星

弗爷宣布竞选连任皇马主席:掌舵世界最佳,要再带来世界最佳球星

仰卧撑FTUer
2026-05-27 10:02:15
“晾了三天,终于臭了”!不少浙江人连夜抢购,已卖爆

“晾了三天,终于臭了”!不少浙江人连夜抢购,已卖爆

浙江之声
2026-05-27 08:15:16
地下助孕实验室藏身杭州别墅区 记者暗访遭工作人员暴力拖拽致骨折

地下助孕实验室藏身杭州别墅区 记者暗访遭工作人员暴力拖拽致骨折

大象新闻
2026-05-27 18:28:16
洋葱立大功!医生发现:洋葱或对3种慢性病有好处!可以常吃

洋葱立大功!医生发现:洋葱或对3种慢性病有好处!可以常吃

芹姐说生活
2026-05-25 14:19:45
湖南明确:一律先免职再彻查

湖南明确:一律先免职再彻查

第一财经资讯
2026-05-27 11:08:08
A股:今天跌到4095了,明天,周四可能这样走

A股:今天跌到4095了,明天,周四可能这样走

明心
2026-05-27 15:19:25
霉霉与男友观战骑士惨败,赛后遭NBA节目P图恶搞

霉霉与男友观战骑士惨败,赛后遭NBA节目P图恶搞

热搜摘要官
2026-05-27 00:17:21
与对方发生口角!24岁王欣瑜1-2爆冷无缘法网第3轮 公开质问裁判

与对方发生口角!24岁王欣瑜1-2爆冷无缘法网第3轮 公开质问裁判

风过乡
2026-05-27 19:50:48
正式官宣!国乒男队主帅王皓上任新岗位,薪资待遇首次被曝光

正式官宣!国乒男队主帅王皓上任新岗位,薪资待遇首次被曝光

十点街球体育
2026-05-26 23:55:03
包工头退出舞台!住建委:取消劳务分包!全面实现自有工人施工!国资委:建筑央企建立自有工人队伍

包工头退出舞台!住建委:取消劳务分包!全面实现自有工人施工!国资委:建筑央企建立自有工人队伍

新浪财经
2026-05-27 00:42:22
最佳睡眠时长又更新了!Nature和Cell:6.4-7.8小时最抗衰,少于6小时死亡风险激增50%;每晚9-11点入睡能年轻3岁,肝脏40岁就率先加速衰老

最佳睡眠时长又更新了!Nature和Cell:6.4-7.8小时最抗衰,少于6小时死亡风险激增50%;每晚9-11点入睡能年轻3岁,肝脏40岁就率先加速衰老

梅斯医学
2026-05-26 07:52:52
当了酒店前台才知道的秘密!瓜太多了,吃不过来了!

当了酒店前台才知道的秘密!瓜太多了,吃不过来了!

夜深爱杂谈
2026-05-27 07:50:31
神操作!印度近50℃高温下电工给变压器浇水降温:半小时一次

神操作!印度近50℃高温下电工给变压器浇水降温:半小时一次

快科技
2026-05-26 19:36:07
2026-05-27 21:16:49
快科技 incentive-icons
快科技
一起关注每日科技热点
114588文章数 260555关注度
往期回顾 全部

数码要闻

78g随身300寸巨幕!雷鸟GT MAX体验:游戏比观影更爽

头条要闻

重庆两个村被山洪毁了:十余人被冲走 一家五口失联

头条要闻

重庆两个村被山洪毁了:十余人被冲走 一家五口失联

体育要闻

这群老阿姨,是最硬核的马刺球迷

娱乐要闻

王鹤棣风波连累父亲炸串店遭差评?

财经要闻

中国半导体的阳谋

科技要闻

韬定律:全球在卷纳米数 华为换了一把尺子

汽车要闻

限时补贴价9.28-10.98万 MG 4X正式上市

态度原创

本地
手机
数码
公开课
军事航空

本地新闻

用剪纸的方式,打开江苏扬州

手机要闻

华为余承东:全新问界M9系列1小时大定突破11000台

数码要闻

宏基推出2026款掠夺者战斧10笔记本,55299元

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

以军称已打死哈马斯新任军事领导人

无障碍浏览 进入关怀版