网易首页 > 网易号 > 正文 申请入驻

AMD发布Unsloth Desktop NPU支持:XDNA 2接管本地智能体推理

0
分享至

AI智能体正在从云端走向PC本地,而要真正跑起来,光有模型不够,硬件和应用还得接上头。11月19日AMD发布官方博客,宣布与微调工具厂商Unsloth合作,为Unsloth Desktop带来NPU支持,基于XDNA 2架构的AMD NPU由此成为全球首个被该应用支持的NPU。

这套合作由Lemonade与FastFlowLM(FLM)两个推理框架搭桥:Unsloth Desktop管界面和模型管理,Lemonade和FLM负责把推理送进XDNA 2 NPU。Unsloth Desktop还提供兼容OpenAI规范的API端点,Open WebUI、Cline、VS Code等超过100款智能体应用和工作流都能把请求指向本地NPU,不用等每款软件单独做适配。

能效是AMD强调的另一重点。XDNA 2 NPU本就为低功耗AI推理设计,负载从CPU/GPU挪到NPU后,其余算力可以留给别的应用,笔记本续航也更长,不插电源一样能挂着低功耗的常驻智能体干活。

AMD还演示了Qwen3.6 MoE模型在AMD NPU上的实时推理,总参数量350亿。代价是挺吃内存:Qwen 3.6 35B A3B跑全上下文,NPU大约需要28GB可用内存,按Windows默认把一半内存划作共享显存的策略,整机得配64GB才稳妥。操作倒不难,装好Unsloth Desktop后在模型中心筛选NPU、点击启用、下载模型就行,前提是你有一台带XDNA 2 NPU的AMD机器。

Unsloth本身覆盖模型开发与部署,开源工具用于加速微调并降低GPU显存占用,桌面应用则支持免写代码完成训练和推理。AMD NPU支持把这条链路从CPU、GPU执行扩展到NPU执行,给用户多了一个低功耗的推理选项。AMD表示,这套集成延续了其扩展和优化软件支持的工作,目的是让更多常用工具用上专用NPU加速。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

麓谷隐士
2026-11-19 22:19:16
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

影孖看世界
2026-10-13 23:32:38
这就是号称让CBA大结局的外援?22投20分,自家球迷直言受不了

这就是号称让CBA大结局的外援?22投20分,自家球迷直言受不了

弄月公子
2026-11-20 05:35:06
从勇士场均6.9分到灰熊25.4分,他成了孟菲斯新面孔

从勇士场均6.9分到灰熊25.4分,他成了孟菲斯新面孔

赛场速报局
2026-11-20 09:34:40
离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

川渝视觉
2026-11-17 19:57:30
高市早苗如愿,普京给了日本30分钟,但日方的要求,普京并没答应

高市早苗如愿,普京给了日本30分钟,但日方的要求,普京并没答应

蓝星杂谈
2026-11-19 22:45:01
余杭朱先生借钱从不催讨,欠款不还也从不兴讼,不到十年全镇一半房屋都姓了朱

余杭朱先生借钱从不催讨,欠款不还也从不兴讼,不到十年全镇一半房屋都姓了朱

石辰搞笑日常
2026-11-20 00:56:36
AI复活电子垃圾之:压了十年泡面的 Kindle,终于翻身了

AI复活电子垃圾之:压了十年泡面的 Kindle,终于翻身了

果壳
2026-11-19 16:17:10
高市早苗终于见到普京,俄方只给30分钟,日本提出两项要求,莫斯科没有松口

高市早苗终于见到普京,俄方只给30分钟,日本提出两项要求,莫斯科没有松口

阿离家居
2026-11-20 04:46:30
中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

寻墨阁
2026-11-06 22:54:32
1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

房产衫哥
2026-11-18 08:09:34
降落深圳!特朗普乘坐的这架 “临时工版空军一号”,槽点和看点一样多

降落深圳!特朗普乘坐的这架 “临时工版空军一号”,槽点和看点一样多

新民周刊
2026-11-19 15:58:56
“中国锦鲤”信小呆八年后:运气没有售后,人生得自己保修

“中国锦鲤”信小呆八年后:运气没有售后,人生得自己保修

潇湘晨报
2026-11-20 07:26:09
谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

一娱三分地
2026-11-19 12:38:41
爆笑!外国博主神还原模仿王皓 调侃:王皓应该去演007里面的反派

爆笑!外国博主神还原模仿王皓 调侃:王皓应该去演007里面的反派

念洲
2026-11-20 10:26:23
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
ESPN:梅西领跑美职联薪资榜,莱万、格列兹曼分列二三

ESPN:梅西领跑美职联薪资榜,莱万、格列兹曼分列二三

懂球帝
2026-11-20 09:35:02
泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

金戈远望
2026-11-19 12:31:19
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
爱奇艺,再不努力就退了

爱奇艺,再不努力就退了

钛媒体APP
2026-11-18 11:06:10
2026-11-20 10:51:00
超能网 incentive-icons
超能网
优质创作,价值传播。
47493文章数 78560关注度
往期回顾 全部

数码要闻

曝荣耀正布局全屋智能业务!或命名为“荣耀智慧家”

头条要闻

高考522分大学生学冷门专业被指"月薪6位数" 本人回应

头条要闻

高考522分大学生学冷门专业被指"月薪6位数" 本人回应

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

艺术
时尚
数码
房产
本地

艺术要闻

尼古拉·费欣:用色彩谱写交响曲的天才画家

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

数码要闻

消费级显卡史上最大显存容量 摩尔线程“庐山”官宣:光追暴涨50倍

房产要闻

2.5亿!丁村侨中,新动作来了!

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版