AMD当地时间11月19日宣布,在与微调工具厂商Unsloth达成合作后,其锐龙AI处理器搭载的“XDNA 2”NPU成为首款获得Unsloth Desktop本地界面支持的神经网络处理器。
按AMD披露的流程,兼容应用程序将模型请求发送至Unsloth Desktop API,Lemonade与FastFlowLM两个推理框架负责在XDNA 2 NPU上完成模型服务和推理,模型响应随后返回应用程序,供其工作流使用。
Unsloth Desktop同时提供兼容OpenAI规范的API端点,应用可将请求直接指向本地NPU,无需等待每款软件单独完成适配。
在这一机制下,包括OpenClaw、Hermes在内的超过100款智能体,均可通过Unsloth Desktop在锐龙AI处理器的NPU上本地运行。
这意味着相关AI工作负载可从CPU和GPU上卸载,为其他任务留出更多算力,也有助于延长带电池设备的续航。
AMD将能效列为此次合作强调的重点之一,XDNA 2 NPU本身即面向低功耗AI推理设计。
市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:行舟
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.