网易首页 > 网易号 > 正文 申请入驻

AMD锐龙AI处理器轻松本地跑DeepSeek:最高支持70B参数

0
分享至

快科技2月12日消息,DeepSeek持续火爆,大家都在体验,但因为服务器承受能力有限,经常会遇到无响应,因此本地部署体验就成了更好的选择,具体规模取决于硬件配置。

AMD是最早在x86处理器领域引入AI能力的,锐龙7040系列就率先集成了独立的NPU AI引擎,此后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列都越发强大。

AMD锐龙AI处理器拥有目前行业最强的NPU,算力高达50 TOPS(每秒50万亿次计算),自然是体验DeepSeek的上佳选择。

如果你有一台锐龙AI笔记本,现在就可以通过LM Studio,轻松在本地部署、体验DeepSeek R1精简版推理模型。


具体操作方式如下:

1、安装AMD Adrenalin 25.1.1或更新版显卡驱动。

2、打开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版本。

3、安装启动LM Studio,可以直接跳过引导屏幕。

4、点击"发现"(discover)标签页。

5、选择适合自己的DeepSeek R1 Distill。具体如何选择见后。

6、在软件页面右侧,勾选"Q4 K M"量化模式,然后点击"下载"。

7、下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选"手动选择参数"(manually select parameters)选项。

8、在"GPU卸载"(GPU offload)中,将滑块移到最大值。

9、点击"模型加载"(model load)。

10、好了,可以在本地体验DeepSeek R1推理模型了!



不同参数规模的大模型,决定了其性能和体积,因此不同的硬件设备需要选择最适合自己的参数量。

如果是顶级的锐龙AI MAX+ 395处理器,搭配64GB、128GB内存,最高可以支持DeepSeek-R1-Distill-Llama-70B,注意64GB内存的话需要将可变显存设置为高。

搭配32GB内存,可变显存自定义为24GB,则能支持到DeepSeek-R1-Distill-Qwen-32B。

如果是锐龙AI HX 370、AI 365处理器,搭配24GB、32GB内存,可以支持DeepSeek-R1-Distill-Qwen-14B。

如果是锐龙7040/8040系列,需要搭配32GB内存,才能支持到DeepSeek-R1-Distill-Qwen-14B。


另外,AMD推荐将所有Distill运行在Q4 K M量化模式。

如果你使用的是台式机,AMD RX 7000系列显卡也都已支持本地部署DeepSeek R1。

其中,RX 7900 XTX旗舰显卡最高支持DeepSeek-R1-Distill-Qwen-32B,RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均可以支持到DeepSeek-R1-Distill-Qwen-14B,RX 7600以及新发布的RX 7650 GRE则适合到DeepSeek-R1-Distill-Llama-8B。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
就问你服不服!一个榜眼秀,都37岁高龄了,还能值三个首轮签

就问你服不服!一个榜眼秀,都37岁高龄了,还能值三个首轮签

球毛鬼胎
2025-03-18 19:21:02
央视今晚开播!24集刑侦大剧来了!全员实力派,我想说:此剧要爆

央视今晚开播!24集刑侦大剧来了!全员实力派,我想说:此剧要爆

草本纪年
2025-03-18 12:04:28
突发!国务院6部门联合发声,事关你我所有人!这下A股稳了?

突发!国务院6部门联合发声,事关你我所有人!这下A股稳了?

风风顺
2025-03-18 02:37:13
太阳报:英国第六级别球队奥尔德姆计划建设新球场,耗资7000万镑

太阳报:英国第六级别球队奥尔德姆计划建设新球场,耗资7000万镑

直播吧
2025-03-18 19:45:20
台军首次公布监控解放军无人机影像,台媒猜测是演练斩首行动

台军首次公布监控解放军无人机影像,台媒猜测是演练斩首行动

橘色密码
2025-03-18 12:36:17
杜特尔特的结局已定?联合国公开为马科斯站台,给老杜扣了顶帽子

杜特尔特的结局已定?联合国公开为马科斯站台,给老杜扣了顶帽子

坠入二次元的海洋
2025-03-18 10:12:15
全球最难造假的日本纸币:27岁小伙用打印机复印新版纸币,糊弄便利店都没成功

全球最难造假的日本纸币:27岁小伙用打印机复印新版纸币,糊弄便利店都没成功

日本物语
2025-03-18 16:45:30
爆冷逆转广东,黑马首次进入季后赛,徐杰5分 杜锋5上5下成分水岭

爆冷逆转广东,黑马首次进入季后赛,徐杰5分 杜锋5上5下成分水岭

替补席看球
2025-03-18 21:44:48
雷来了!昨晚30家公司减持,清仓的10家,另有2家公司或终止上市

雷来了!昨晚30家公司减持,清仓的10家,另有2家公司或终止上市

晨晨星
2025-03-18 08:22:08
具俊晔太深情!守灵41天细节曝光,每日给大S骨灰做三餐还下跪!

具俊晔太深情!守灵41天细节曝光,每日给大S骨灰做三餐还下跪!

乌娱子酱
2025-03-18 20:04:56
16G+1TB!华为新机官宣:3月18日,正式开售!

16G+1TB!华为新机官宣:3月18日,正式开售!

小柱解说游戏
2025-03-18 01:37:38
销量下滑5万辆!新能源神车跌下神坛,小米创纪录,雷军还有大招

销量下滑5万辆!新能源神车跌下神坛,小米创纪录,雷军还有大招

牛斯克
2025-03-17 13:41:20
李嘉诚做的事,一百年前毛主席就预料到了。

李嘉诚做的事,一百年前毛主席就预料到了。

归史
2025-03-18 13:40:18
小米集团CEO雷军:交付了第20万辆小米汽车,车主是一对新婚夫妻,选择了小米SU7璀璨洋红!感谢所有车主朋友

小米集团CEO雷军:交付了第20万辆小米汽车,车主是一对新婚夫妻,选择了小米SU7璀璨洋红!感谢所有车主朋友

和讯网
2025-03-18 14:51:47
巴拿马港口股权卖给美国,中方直接反将一军,97岁李嘉诚赌输了

巴拿马港口股权卖给美国,中方直接反将一军,97岁李嘉诚赌输了

奉壹数码
2025-03-18 19:11:44
湖南省委书记、省长,添了新身份

湖南省委书记、省长,添了新身份

政知新媒体
2025-03-18 09:25:18
云南貌美空姐被骗缅北,惨遭双开门折磨,得救时整个人目光呆滞

云南貌美空姐被骗缅北,惨遭双开门折磨,得救时整个人目光呆滞

可儿故事汇
2025-03-09 23:54:22
尹锡悦弹劾案今日宣判!韩国政坛大地震,美韩关系亮红灯

尹锡悦弹劾案今日宣判!韩国政坛大地震,美韩关系亮红灯

军迷小新055
2025-03-18 11:45:38
美企牵头财团成买家,中国航运贸易或受阻,香港长和出售43个港口遭质疑

美企牵头财团成买家,中国航运贸易或受阻,香港长和出售43个港口遭质疑

环球网资讯
2025-03-17 07:19:51
明天起,请所有天津人提前1小时吃饭!

明天起,请所有天津人提前1小时吃饭!

天津生活通
2025-03-18 18:50:39
2025-03-18 22:00:49
快科技 incentive-icons
快科技
一起关注每日科技热点
93782文章数 259492关注度
往期回顾 全部

数码要闻

古尔曼剧透苹果 Apple TV 4K 机顶盒:10 月发布,Wi-Fi 升级

头条要闻

中国被传就李嘉诚出售海外港口开展调查 外交部回应

头条要闻

中国被传就李嘉诚出售海外港口开展调查 外交部回应

体育要闻

曾击败德约的亚洲一哥,现在咋样了?

娱乐要闻

胡杏儿老公撇下妻儿夜店嗨玩,与多名美女搂抱

财经要闻

卖港口给美国财团 李嘉诚深陷舆论风暴

科技要闻

百度回应"开盒"事件:数据不是从百度泄露

汽车要闻

百万像素车语大灯首上车 享界S9增程版解读

态度原创

艺术
本地
数码
教育
公开课

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

本地新闻

一万次的春和景明,是过敏人的限定地狱

数码要闻

传音旗下首款电竞平板 Infinix Xpad 现身数据库:8G + 256G

教育要闻

直角三角形周长为24,斜边边长为10,求三角形面积

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版