网易首页 > 网易号 > 正文 申请入驻

苹果CoreAI首批基准出炉,Qwen3 0.6B大幅领先,8B几乎追平MLX

0
分享至

IT之家 6 月 11 日消息,科技媒体 Wccftech 昨日(6 月 10 日)发布博文,报道称在 2026 年全球开发者大会(WWDC)上,苹果推出 CoreAI 引擎,接替 2017 年推出的 CoreML 框架,主打端侧大模型推理。

IT之家援引博文介绍,CoreML 框架已服役 9 年,主要面向图像分类等小型静态任务;而最新接棒的 CoreAI 主要面向端侧本地推理和边缘 AI 场景,重点优化设备端大语言模型推理,重点支持更灵活的模型格式和更大的模型内存占用。

而 MLX 是苹果生态中的一个机器学习框架,更偏向研究、训练和微调任务,常被开发者拿来测试和部署本地大模型。

从首批基准来看,苹果 CoreAI 呈现“小模型强、大模型接近持平”特征。在 M4 Mac 上运行 Qwen3 0.6B 模型后,CoreAI 解码速度约为 MLX 的 2.47 倍。在 iPhone 17 Pro 上,这一优势约为 1.6 倍。

解码速度指大语言模型生成文本时,每秒能输出多少个 token,常写作 tok/s。这个指标越高,模型回复通常越快,用户等待时间越短。


在模型规模提升至 80 亿参数(Qwen3 8B,M4 Max)后,CoreAI 比 MLX 快 5%,两者解码性能几乎持平,意味着 CoreAI 的性能优势随模型规模增大而收窄。

在持续负载方面,测试显示,iPhone 17 Pro 的 GPU 在长时间运行后会较快触发温控降频,这会削弱 GPU 路线的持续吞吐。CoreML 配合苹果神经引擎(ANE,Apple Neural Engine)的组合在性能保持率方面实现反超。


横向对比其他厂商方案,针对特定模型深度优化的引擎依然更容易胜出。比如,谷歌的 LiteRT-LM 运行 Gemma 时,在 iPhone 17 Pro 上达到每秒 55.4 tokens,并且 RAM 占用仅 641 MB;作为对照,苹果 MLX 的内存占用为 2900 MB,是前者的 4.5 倍。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
❤️ 梅西决赛后直奔罗萨里奥陪父亲!68岁豪尔赫正与疾病抗争

❤️ 梅西决赛后直奔罗萨里奥陪父亲!68岁豪尔赫正与疾病抗争

乡野小珥
2026-08-01 01:00:00
美媒称:伊朗计划7000万买400套中国防空导弹,中国回应了!

美媒称:伊朗计划7000万买400套中国防空导弹,中国回应了!

流史岁月
2026-07-31 13:40:08
张柏芝不再隐瞒,持续 8 年谣言落幕,三胎儿子身份曝光

张柏芝不再隐瞒,持续 8 年谣言落幕,三胎儿子身份曝光

南万说娱26
2026-07-29 10:29:55
被老师骂"笨猪"的詹青云,在北大当"小透明"的王虹:后来一个贷100万上哈佛,一个拿了菲尔兹奖

被老师骂"笨猪"的詹青云,在北大当"小透明"的王虹:后来一个贷100万上哈佛,一个拿了菲尔兹奖

海之晓说
2026-07-29 16:30:48
悔到肠子发青!阿森纳放走当世第一神锋!实力碾压阿尔瓦雷斯

悔到肠子发青!阿森纳放走当世第一神锋!实力碾压阿尔瓦雷斯

澜归序
2026-07-04 05:19:50
这条新闻在今天看来,讽刺至极!

这条新闻在今天看来,讽刺至极!

胖胖说他不胖
2026-08-01 09:55:15
看了王虹在法国的工作环境,我彻底破防了

看了王虹在法国的工作环境,我彻底破防了

牛锅巴小钒
2026-07-31 09:13:24
坐地起价引热议!辽篮开出120万美金,莫兰德狮子大开口,底气何在?

坐地起价引热议!辽篮开出120万美金,莫兰德狮子大开口,底气何在?

体育见习官
2026-08-01 07:32:55
3-1!3-0!世联赛疯狂夜:土耳其惨败,中国被逆转,四强确定2席

3-1!3-0!世联赛疯狂夜:土耳其惨败,中国被逆转,四强确定2席

广西阿妹香香
2026-08-01 09:41:57
中东战争要全面失控了!

中东战争要全面失控了!

一个坏土豆
2026-07-29 20:57:19
上半年江苏13市GDP放榜:苏州增速领跑,徐州冲刺万亿,盐城反超扬州

上半年江苏13市GDP放榜:苏州增速领跑,徐州冲刺万亿,盐城反超扬州

白浅娱乐聊
2026-08-01 00:29:25
中国存款大势已定?若一切正常,明后年,居民储蓄或要变天了!

中国存款大势已定?若一切正常,明后年,居民储蓄或要变天了!

说故事的阿袭
2026-08-01 07:57:54
伊朗醒悟的很快:这个世界,或许只有一个国家,能够“管住”美国

伊朗醒悟的很快:这个世界,或许只有一个国家,能够“管住”美国

菁菁子衿
2026-07-31 12:42:25
非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

每日经济新闻
2026-07-06 21:58:54
CBA狂野一日!5人官宣离队,8人完成签约,北京辽篮将有大交易

CBA狂野一日!5人官宣离队,8人完成签约,北京辽篮将有大交易

多特体育说
2026-07-31 22:56:55
中国女篮迎巨变!宫鲁直指张子宇未来核心,韩旭李月汝或将逐步让出主力位置

中国女篮迎巨变!宫鲁直指张子宇未来核心,韩旭李月汝或将逐步让出主力位置

历史胶囊
2026-08-01 10:44:18
普京称俄罗斯岌岌可危,梅德韦杰夫:想保住国家,只有一条路

普京称俄罗斯岌岌可危,梅德韦杰夫:想保住国家,只有一条路

陈穟侃故事
2026-07-31 10:53:16
东风导弹泄密案!间谍郭万钧一家三口,全部被处以死刑

东风导弹泄密案!间谍郭万钧一家三口,全部被处以死刑

番外行
2026-03-31 08:28:28
宁波砸西瓜事件发酵,杨某日范某玲一家接下来面临三大现实难处

宁波砸西瓜事件发酵,杨某日范某玲一家接下来面临三大现实难处

荷兰豆爱健康
2026-08-01 00:18:51
动力电池“梯次利用”彻底叫停!工信部废止条款,百家合规企业名单作废

动力电池“梯次利用”彻底叫停!工信部废止条款,百家合规企业名单作废

经济观察报
2026-07-31 10:27:42
2026-08-01 12:12:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
358020文章数 607409关注度
往期回顾 全部

数码要闻

库克:苹果首批Apple智能功能已获中国批准推出

头条要闻

连云港住宅火灾母女坠楼3岁女童身亡 家属最新发声

头条要闻

连云港住宅火灾母女坠楼3岁女童身亡 家属最新发声

体育要闻

欧足联掀桌!因凡蒂诺这次真玩大了?

娱乐要闻

周星驰质疑董宇辉看《大话西游》500遍

财经要闻

宇树造富盛宴:王兴兴将跻身百亿富豪

科技要闻

特斯拉拆不掉中国制造

汽车要闻

听劝!换回机械门把手,这才是碳基生物该开的车!

态度原创

本地
艺术
旅游
教育
手机

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

艺术要闻

中国著名油画家 潘鸿海笔下的江南风景与女子

旅游要闻

老君山:中高考生免门票活动延长至8月底

教育要闻

初中竞赛,求sin18°

手机要闻

一台苹果iPhone 17 Pro从1.1公里高空坠落后几乎“完好无损”

无障碍浏览 进入关怀版