网易首页 > 网易号 > 正文 申请入驻

英特尔迅速跟进AMD,Core Ultra引入AI黑科技,助力本地用户

0
分享至

AMD 的 APUs 已经有一段时间提供一个功能,这个功能不仅对游戏玩家有吸引力,对本地 AI 用户也同样如此;可变显存。现在,英特尔也紧随其后,为其 Core Ultra 芯片添加了类似的功能。

这一消息是英特尔的 Bob Duffy 通过 VideoCardz 透露的,新的共享 GPU 内存覆盖功能与最新版本的 Arc 驱动程序一起发布。

如果你有英特尔 Core Ultra 并且正在使用 AI,你需要更新到最新的英特尔 Arc 驱动程序... 因为 pic.twitter.com/4BlTqW1RCo2025年8月14日

那这到底是什么呢?

简单来说,就像在AMD最近的APU上一样,您现在可以决定将多少系统内存分配给GPU。这对游戏有帮助,尤其是在您使用本地LLM时。

Ollama 目前不支持集成GPU,但像LM Studio这样的工具支持这一功能,允许您将一些较大的模型,比如gpt-oss:20b,加载到GPU上,而不是CPU。

这些模型在不手动为GPU选择更多内存的情况下也能运行,但手动选择会带来一些好处。英特尔的Core Ultra芯片尚未采用真正的统一内存,这种内存在Apple Mac或AMD最新的Strix Halo芯片上可以找到。听起来是一样的,但实际上并不相同。在统一内存上,这个功能是多余的。

在我自己(尽管简短)的测试中,使用一款AMD Ryzen AI 9 HX 370,该设备不支持统一内存,给GPU设置更多可用内存会有性能上的好处。

在gpt-oss:20b中,当模型能够完全加载到专用GPU内存中时,性能比使用整体系统内存时高出约5个token每秒,在4k上下文窗口下尤其如此。

您仍然可以利用GPU进行计算,但如果只使用“RAM”,性能会更慢。最佳的情况是为加载模型分配足够的专用GPU内存。

这就是英特尔现在允许Core Ultra用户进行的操作,尽管目前还不太清楚这是否适用于所有Core Ultra系列,还是仅限于Core Ultra系列2。在英特尔图形软件中,添加了一个简单的滑块,允许您选择要为GPU保留多少内存。

以我自己的系统为例,当我使用像gpt-oss:20b这样的大型模型时,我将可用的32GB内存均分。16GB用于GPU,16GB用于其他所有内容。这让我可以将模型完全加载到GPU的内存中,而保留的内存则留给系统的其他部分。

这就是我从大型语言模型中获取最佳性能的方式,因为如果可以使用GPU,为什么要把所有的CPU都用完呢?即使是集成显卡,在这种情况下也能比使用CPU得到更好的效果。

当然,这一切仍然是相对的。如果你的系统总内存是16GB,你不能把它全部分配给GPU来运行LLM(大型语言模型)。PC仍然需要内存来处理Windows上其他的任务。理想情况下,你希望有足够的内存,至少为系统保留8GB。

要获得新的共享GPU内存覆盖功能,你需要使用最新的Intel驱动程序。请注意,这个功能仅适用于你的PC上只有集成的Arc显卡的情况。拥有独立显存的GPU不需要这个功能,而且在任何情况下它们的表现仍然会更好。

但是,如果你在Core Ultra系统上使用本地的LLM,这个功能是个不错的补充,能帮助你从AI工作负载中榨取一些额外的性能。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
狗主人真实身份遭曝光:她带人砸窗破门确实有底气,还真管不了她

狗主人真实身份遭曝光:她带人砸窗破门确实有底气,还真管不了她

汉史趣闻
2025-11-16 08:12:31
比特币抹去今年以来所有涨幅

比特币抹去今年以来所有涨幅

每日经济新闻
2025-11-17 05:27:02
排队2小时没进门!网友惊呆:有“一亿人”,挤爆了

排队2小时没进门!网友惊呆:有“一亿人”,挤爆了

河南交通广播1041
2025-11-16 17:19:21
日媒:中国的反应超出预期

日媒:中国的反应超出预期

扬子晚报
2025-11-16 22:58:27
泰王访华实属无奈?开口就是三大需求,中国不会轻易松口

泰王访华实属无奈?开口就是三大需求,中国不会轻易松口

古事寻踪记
2025-11-17 07:28:16
媒体人:杨瀚森的动作是场上10名球员里最慢的 但他有他的节奏

媒体人:杨瀚森的动作是场上10名球员里最慢的 但他有他的节奏

云隐南山
2025-11-17 11:44:09
“狗主人有五次不死机会,他们还串供了”,来自李胜律师最新爆料

“狗主人有五次不死机会,他们还串供了”,来自李胜律师最新爆料

汉史趣闻
2025-11-16 17:22:09
山西反杀案,3个被遗忘的逻辑漏洞被网友深层扒出!离真相不远了

山西反杀案,3个被遗忘的逻辑漏洞被网友深层扒出!离真相不远了

爱写的樱桃
2025-11-16 21:20:08
医院迎来倒闭潮,半年倒闭1247家,未来普通人看病成本会不会更高

医院迎来倒闭潮,半年倒闭1247家,未来普通人看病成本会不会更高

历史求知所
2025-11-16 11:35:03
日本外务省高官今日访华,将解释高市早苗言论

日本外务省高官今日访华,将解释高市早苗言论

界面新闻
2025-11-17 09:59:34
宇树机器人表演冲拳、踢腿等功夫时意外“翻车”摔倒,租赁店负责人:踩到了衣服,租一天七八千元

宇树机器人表演冲拳、踢腿等功夫时意外“翻车”摔倒,租赁店负责人:踩到了衣服,租一天七八千元

极目新闻
2025-11-17 09:37:57
军事 | 又一艘电磁弹射舰首次试航,中国海军再添独门利器!

军事 | 又一艘电磁弹射舰首次试航,中国海军再添独门利器!

新民周刊
2025-11-17 09:09:38
正大量上市!女子一口气吃3个,痛到进医院,医生提醒:不能混吃、不能空腹吃

正大量上市!女子一口气吃3个,痛到进医院,医生提醒:不能混吃、不能空腹吃

环球网资讯
2025-11-16 17:31:46
余承东首秀华为Mate 80系列真机,双圆环设计亮眼

余承东首秀华为Mate 80系列真机,双圆环设计亮眼

IT之家
2025-11-17 09:57:11
越来越疯了!高市早苗再有新动作,日本准备拥核,中俄要早做准备

越来越疯了!高市早苗再有新动作,日本准备拥核,中俄要早做准备

头条爆料007
2025-11-16 21:21:37
最新!释永信被批捕照片曝光:整个人变化大,罪名令人意外,最可怜的还是他母亲

最新!释永信被批捕照片曝光:整个人变化大,罪名令人意外,最可怜的还是他母亲

文字里拾光
2025-11-17 00:27:20
女单颁奖!王曼昱仰天怒吼,陈梦开心,孙颖莎郁闷,赛后三人暖心

女单颁奖!王曼昱仰天怒吼,陈梦开心,孙颖莎郁闷,赛后三人暖心

细话篮球
2025-11-16 23:49:58
俄朝站队怒批高市,特朗普迅速与日切割后,中方做开打前最后警告

俄朝站队怒批高市,特朗普迅速与日切割后,中方做开打前最后警告

现代小青青慕慕
2025-11-17 00:33:22
6国外援候命,高市通知全球,对华打响第二枪,中方被逼上硬菜

6国外援候命,高市通知全球,对华打响第二枪,中方被逼上硬菜

来科点谱
2025-11-17 09:09:40
突发|盒马创始人今年2月创立的“派特鲜生”,12月中旬将全部关闭

突发|盒马创始人今年2月创立的“派特鲜生”,12月中旬将全部关闭

第一财经资讯
2025-11-17 13:16:25
2025-11-17 14:35:00
奇思妙想生活家
奇思妙想生活家
探索生活的奇思妙想,分享独特见解和实用小窍门,让你的日常生活更有趣、更有品位!
456文章数 2590关注度
往期回顾 全部

数码要闻

基于英伟达、AMD明年芯片,HPE发布新一代Cray刀片服务器

头条要闻

牛弹琴:中国的强烈愤怒还在继续 日本有三个没想到

头条要闻

牛弹琴:中国的强烈愤怒还在继续 日本有三个没想到

体育要闻

当家球星受伤后,球迷乐翻了天?

娱乐要闻

二次封后的宋佳凭什么狂妄?

财经要闻

疯狂的"吸金村":村民大肆盗采地下水

科技要闻

营销话术反噬信任,雷军不该只是一怒了之

汽车要闻

荣威M7+豆包大模型 用车机AI策划说车视频怎么样?

态度原创

时尚
艺术
教育
公开课
军事航空

中年女人的开挂指南,避开花衣服和紧身衣,把优雅感焊在身上

艺术要闻

这雪景,太美了!

教育要闻

学校教育数字化转型 | 江西省南昌市洪都中学:科学教育的数字化转型:人工智能与数字画像的协同效应

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

海军四川舰顺利完成首次航行试验

无障碍浏览 进入关怀版