网易首页 > 网易号 > 正文 申请入驻

AMD带来本地运行LLM,可构建专属AI聊天机器人

0
分享至

继英伟达发布Chat with RTX以后,AMD现在也为用户带来了可以本地化运行基于GPT的大语言模型(LLM),用户可以此构建专属的AI聊天机器人,可以在具有XDNA NPU的Ryzen 7000/8000系列及内置AI加速核心的Radeon RX 7000系列GPU设备上运行,需要下载对应版本的LM Studio。

AMD表示,人工智能助手正迅速成为帮助提高生产力、效率甚至集思广益的重要来源。在用户自己设备的本地AI聊天机器人不仅不需要互联网连接,而且对话可以保留在本地系统上。

AMD在博客文章中提供了完整的运行步骤,并有具体的用例说明:如果想运行Mistral 7b,搜索“TheBloke/OpenHermes-2.5-Mistral-7B-GGUF”,例子中使用的是Mistral;如果想运行LLAMA v2 7b,搜索“TheBloke/Llama-2-7B-Chat-GGUF”,并从左侧结果中选择,通常是第一个结果。

感兴趣的AMD用户,如果有使用相应的CPU或GPU,可以参照原文进一步了解,按照相应的说明进行操作。

竞争对手英伟达是在上个月发布了Chat with RTX,作为一个技术演示应用,可以让用户以自己的内容定制一个聊天机器人,结合了检索增强生成、TensorRT-LLM和NVIDIA RTX加速技术。用户可以把PC上的本地文件作为数据集连接到开源的LLM,比如Mistral或Llama 2上,支持.txt,.pdf,.doc/docx,.xml等多种文件类型,只需要给出文件夹路径,AI就会在数秒内把它们加载到库中。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
毛剑卿:从专业角度讲,梅西踢得其实并不好,他本来至少能进4个

毛剑卿:从专业角度讲,梅西踢得其实并不好,他本来至少能进4个

风过乡
2026-06-23 13:29:36
印度网友说中国也有种姓制度,仔细一看,真的让人笑掉大牙!

印度网友说中国也有种姓制度,仔细一看,真的让人笑掉大牙!

全城探秘
2026-06-18 18:06:57
继钉钉之后,美团员工深夜发文《置身团内》,句句扎心,大厂病灶越来越像

继钉钉之后,美团员工深夜发文《置身团内》,句句扎心,大厂病灶越来越像

新浪财经
2026-06-24 03:06:19
“湿气”最怕的3种菜,建议常吃,健脾又养胃,不懂吃太可惜了

“湿气”最怕的3种菜,建议常吃,健脾又养胃,不懂吃太可惜了

观星赏月
2026-06-21 12:49:48
1.2万亿顺差创百年纪录,张燕生却警告:再赚下去,中国要有麻烦

1.2万亿顺差创百年纪录,张燕生却警告:再赚下去,中国要有麻烦

趣文说娱
2026-05-29 20:13:52
健身房“性丑闻”全复盘:人一旦丢掉底线,到底能有多恐怖?

健身房“性丑闻”全复盘:人一旦丢掉底线,到底能有多恐怖?

聪明小石头
2026-02-10 15:19:46
DeepSeek缺Agent人才缺疯了!负责人各种贴广告

DeepSeek缺Agent人才缺疯了!负责人各种贴广告

量子位
2026-06-22 13:10:10
一个残酷真相:再过三年,再大牌的明星,也可能彻底无戏可拍

一个残酷真相:再过三年,再大牌的明星,也可能彻底无戏可拍

一盅情怀
2026-06-23 13:34:28
CBA最新消息!争议后卫离开北京首钢,袁堂文确定完成续约

CBA最新消息!争议后卫离开北京首钢,袁堂文确定完成续约

体坛瞎白话
2026-06-23 15:24:51
SPACEX股价抹去早前跌幅,转为上涨

SPACEX股价抹去早前跌幅,转为上涨

每日经济新闻
2026-06-23 19:29:04
太失望 NBA练级一年就这?杨瀚森回归首秀攻防拉胯 球迷:不如徐昕

太失望 NBA练级一年就这?杨瀚森回归首秀攻防拉胯 球迷:不如徐昕

宝哥精彩赛事
2026-06-24 00:10:19
爱奇艺又有大剧定档6月24号了,演员阵容豪华到离谱,这波真的太值得期待了

爱奇艺又有大剧定档6月24号了,演员阵容豪华到离谱,这波真的太值得期待了

小椰的奶奶
2026-06-22 18:25:29
700万人口预言落空,2026新生儿止跌,发钱养娃真的有用吗?

700万人口预言落空,2026新生儿止跌,发钱养娃真的有用吗?

小蜜情感说
2026-06-23 07:15:41
有没有人敢爆自己的瓜?网友:确定玩这么大吗?

有没有人敢爆自己的瓜?网友:确定玩这么大吗?

夜深爱杂谈
2026-02-18 20:55:58
俄绝密计划曝光,若和北约开战,先打中国两个邻国,亚洲成战场?

俄绝密计划曝光,若和北约开战,先打中国两个邻国,亚洲成战场?

史行途
2026-06-21 08:15:32
资治通鉴:别把任何人当神,那些真正爬上顶端的人,都亲手踩碎了你我不敢踩的两种东西

资治通鉴:别把任何人当神,那些真正爬上顶端的人,都亲手踩碎了你我不敢踩的两种东西

心理观察局
2026-06-21 07:13:15
向佐坦言:我还有个姐姐,但同样被我夺走本属于她的爱,我很自责

向佐坦言:我还有个姐姐,但同样被我夺走本属于她的爱,我很自责

玖宇维
2026-06-23 16:55:04
与美国为友是致命的

与美国为友是致命的

西楼饮月
2026-06-23 23:41:22
星巴克、瑞幸等品牌都在推!咖啡圈“全冰去水”的喝法火了

星巴克、瑞幸等品牌都在推!咖啡圈“全冰去水”的喝法火了

蓝鲸新闻
2026-06-23 11:54:16
难以置信!网传辽宁83年女生还是黄花闺女,哭诉三段恋情无疾而终

难以置信!网传辽宁83年女生还是黄花闺女,哭诉三段恋情无疾而终

火山詩话
2026-05-01 06:40:06
2026-06-24 04:04:49
超能网 incentive-icons
超能网
优质创作,价值传播。
44859文章数 78514关注度
往期回顾 全部

科技要闻

48名中国开发者联名举报苹果

头条要闻

葡萄牙5-0乌兹别克斯坦 C罗梅开二度

头条要闻

葡萄牙5-0乌兹别克斯坦 C罗梅开二度

体育要闻

扬尼斯去了迈阿密:凯尔特人怎么办?

娱乐要闻

内娱95后顶流格局发生潜移默化的变化

财经要闻

AI“算力稀缺”信仰开始动摇?

汽车要闻

施鹏泽:为什么奥迪E7X强调座舱气味安全?

态度原创

本地
旅游
教育
时尚
军事航空

本地新闻

吃一次广东龙舟饭,才懂什么是豪华盛宴

旅游要闻

端午假期忻州市累计接待游客98.29万人次,同比增长10.31%

教育要闻

出分在即!这件事没做对,艺考分再高也白搭 用对工具,志愿填报少走90%弯路

被40万人追更的火焰魔术师,重塑古老灯工玻璃

军事要闻

以色列总理、国防部长和国防军总参谋长发表联合声明

无障碍浏览 进入关怀版