网易首页 > 网易号 > 正文 申请入驻

英特尔锐炫GPU第一时间适配Llama 3 展现卓越性能

0
分享至

Meta此前已经发布了新一代Llama 3大语言模型,在发布后不久,英特尔就第一时间优化并验证了80亿和700亿参数的Llama 3模型在英特尔AI产品组合上的运行情况。在客户端领域,测试表明凭借英特尔锐炫显卡的强大性能,开发者能够轻松在本地运行Llama 3模型,为生成式AI工作负载提供加速。



此外,英特尔酷睿Ultra H系列处理器展现出了高于普通人阅读速度的输出生成性能,而这一结果主要得益于其内置的英特尔锐炫GPU,该GPU具有8个Xe核心,以及DP4a AI加速器和高达120 GB/s的系统内存带宽。



英特尔酷睿Ultra处理器和英特尔锐炫显卡在Llama 3模型发布的第一时间便提供了良好适配,这彰显了英特尔和Meta携手为本地AI开发和数百万设备的部署所作出的努力。英特尔客户端硬件性能的大幅提升得益于用于本地研发的PyTorch和英特尔PyTorch扩展包等丰富的软件框架与工具,以及用于模型部署和推理的OpenVINO工具包。



而根据具体的测试样例来看,在使用IPEX-LLM库运行70亿参数的Mistral模型时,锐炫A770 16GB显卡每秒可以处理70个token(TPS),比使用CUDA的GeForce RTX 4060 8GB的TPS高出70%。英特尔内部测试表明,锐炫A770 16GB显卡在运行大模型时能够提供卓越的性能。相比RTX 4060,锐炫A770 16GB显卡在运行大多数模型时具备极有竞争力或领先的性能,这也使其成为在本地运行大语言模型的更优选择。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王菲为李嫣庆祝18岁生日,母女抱头灿笑,李亚鹏为女儿准备大礼

王菲为李嫣庆祝18岁生日,母女抱头灿笑,李亚鹏为女儿准备大礼

素素娱乐
2024-05-28 07:11:06
突发!忻州餐饮女强人去世,旗下6家餐饮店,知情人称脑血管破裂

突发!忻州餐饮女强人去世,旗下6家餐饮店,知情人称脑血管破裂

六毛朵朵
2024-05-27 14:12:21
这还是《庆余年》的战豆豆吗?

这还是《庆余年》的战豆豆吗?

娱乐八卦木木子
2024-05-28 10:47:42
北京楼市全军覆没,北京西城区房价从131000元降至114000元

北京楼市全军覆没,北京西城区房价从131000元降至114000元

有事问彭叔
2024-05-27 20:40:28
14比0,中美均投票赞成 ,仅俄弃权,安理会通过第2730号决议

14比0,中美均投票赞成 ,仅俄弃权,安理会通过第2730号决议

李大娱乐糊涂
2024-05-27 09:25:18
曹德旺“福耀科技大”今年招生无望,被嘲:像工业园,可别烂尾了

曹德旺“福耀科技大”今年招生无望,被嘲:像工业园,可别烂尾了

妍妍教育日记
2024-05-27 18:33:00
东盟十国宣布放弃美元,到底谁给的勇气?

东盟十国宣布放弃美元,到底谁给的勇气?

谈芯说科技
2024-05-28 05:11:34
台湾上空发生激烈交锋,中美军机交手,专家发现不对:大陆咋来的

台湾上空发生激烈交锋,中美军机交手,专家发现不对:大陆咋来的

星辰故事屋
2024-05-27 22:00:17
江启臣抵达日内瓦,准备在世界卫生大会门口闹场

江启臣抵达日内瓦,准备在世界卫生大会门口闹场

杂谈天下式
2024-05-28 01:59:49
新华社经济随笔:“壮大耐心资本”的启示

新华社经济随笔:“壮大耐心资本”的启示

新华社
2024-05-28 09:40:09
到底有多严重?唐仁健被查,杂交水稻亲本种子被卖

到底有多严重?唐仁健被查,杂交水稻亲本种子被卖

天闻地知
2024-05-28 09:36:18
IP中国台湾博主被问“认同一个中国吗”,答“中立”,遭批:又当又立

IP中国台湾博主被问“认同一个中国吗”,答“中立”,遭批:又当又立

不掉线电波
2024-05-27 19:04:55
纳达尔:如果我知道德约最后一次打温网或澳网,我也会去现场看的

纳达尔:如果我知道德约最后一次打温网或澳网,我也会去现场看的

直播吧
2024-05-28 10:57:11
网传上海某公园内,保安呵斥年轻人读外国诗:中国五千年文化没有诗了吗?

网传上海某公园内,保安呵斥年轻人读外国诗:中国五千年文化没有诗了吗?

可达鸭面面观
2024-05-28 12:30:33
立刻停止进攻!联合国法院命令以色列,一个月内,上交侵略资料

立刻停止进攻!联合国法院命令以色列,一个月内,上交侵略资料

王子看台海
2024-05-26 15:42:15
网传上海某公司老板跑路!疑在国外玩金融亏62亿,近千名员工失业

网传上海某公司老板跑路!疑在国外玩金融亏62亿,近千名员工失业

火山诗话
2024-05-28 07:22:44
商战?京东官方:遭人刻意抹黑,警方已抓获嫌疑人,正追查其幕后金主

商战?京东官方:遭人刻意抹黑,警方已抓获嫌疑人,正追查其幕后金主

互联网大聪明
2024-05-27 17:35:14
沪九条落地12小时|售楼处不打烊,部分新盘拟收回折扣,二手房东提价、买家仍想捡漏

沪九条落地12小时|售楼处不打烊,部分新盘拟收回折扣,二手房东提价、买家仍想捡漏

澎湃新闻
2024-05-28 07:26:29
争议!曝印有红十字会标志的直升机,在户外给一群人送烤全羊

争议!曝印有红十字会标志的直升机,在户外给一群人送烤全羊

小萝卜丝
2024-05-27 16:54:45
撤销退市警示!复牌后4万手封单焊牢天板,1.6万股东热泪盈眶

撤销退市警示!复牌后4万手封单焊牢天板,1.6万股东热泪盈眶

惜别的海岸
2024-05-28 10:29:32
2024-05-28 13:30:44
PChome电脑之家
PChome电脑之家
PChome电脑之家官方帐号
14170文章数 40866关注度
往期回顾 全部

数码要闻

玄派玄智星银河笔记本:性价比之选 历史低价不容错过!

头条要闻

14岁女孩自称与两名男子发生关系 警方发现还有第三人

头条要闻

14岁女孩自称与两名男子发生关系 警方发现还有第三人

体育要闻

阿根廷一代神锋,击碎了沙特的金元足球梦

娱乐要闻

昆凌晒三胎正面照,2岁妹妹超像周杰伦

财经要闻

郑裕彤家族撑腰 小赢科技撮合放贷大赚

科技要闻

刘强东为何此时重新定义“兄弟”?

汽车要闻

三联屏/纯电续航318km 岚图FREE 318官图发布

态度原创

艺术
房产
本地
教育
健康

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

房产要闻

大量宅地爆发上架!海口2大片区旧改,又要火力全开!

本地新闻

2024沈阳皇姑第二届半程马拉松

教育要闻

跨界联动,火花思维与孩子王探索儿童教育服务新范式

晚餐不吃or吃七分饱,哪种更减肥?

无障碍浏览 进入关怀版