网易首页 > 网易号 > 正文 申请入驻

苹果评估AI模型压缩技术:270亿参数大模型可直接运行于iPhone,为Siri升级铺路

0
分享至

苹果正与硅谷初创公司PrismML展开早期洽谈,后者声称可将大型AI模型压缩至能在iPhone上本地运行。若技术验证通过,此举将强化苹果的隐私主张,并为其迟滞已久的Siri升级提供关键支撑。

PrismML CEO表示,苹果已开始评估其技术。洽谈目前处于非常早期阶段,走向尚不明朗,但"进展顺利"。

此次消息发布恰在苹果推出iOS 27公测版的次日——这是苹果对Siri进行大幅改版后向公众开放的首次广泛测试,旨在与OpenAI和Anthropic的AI助手展开竞争。

对于苹果而言,将更多AI运算留在设备本地,意味着更低的响应延迟、更少的云计算成本,以及无需联网即可使用部分功能的能力——这些与其核心隐私定位高度契合。

PrismML的公开发布,为普通用户和投资者提供了在实验室之外检验其技术声明的机会。Counterpoint的Pathak总结道:

"云端与设备端AI的组合,能够提供更完整、更高效、更注重隐私的AI体验——复杂任务交由云端处理,敏感、时延敏感及隐私相关的任务则在设备端执行。"

压缩技术突破:54GB模型缩至4GB以内

PrismML由加州理工学院研究团队孵化而来,背后有Khosla Ventures支持。该公司周二公开发布了阿里巴巴开源模型Qwen的压缩版本,将约54GB的原始模型压缩至不足4GB,使全部270亿参数能够在iPhone 15或更新机型上直接运行。

PrismML CEO Babak Hassibi向CNBC表示,公司通过大幅简化模型内部信息的存储方式实现压缩——将每个数值从16位降至仅1至3个可能值,从而显著削减存储和运行模型所需的内存。

据该公司称,压缩后的模型内存占用减少10至15倍,响应速度提升6至8倍,能耗降低3至6倍。Hassibi坦承存在一定取舍:模型整体性能通常下降数个百分点,事实性记忆的衰减早于推理、数学和编程等能力。

目前,PrismML免费发布了两个压缩版本,适配iPhone、MacBook及搭载英伟达芯片的PC。公司表示,谷歌的开源模型Gemma是下一个压缩目标,此后还将处理需要数据中心硬件才能运行的更大规模前沿模型。

今年3月,该公司完成由Khosla Ventures领投的1625万美元种子轮融资,加州理工学院拥有底层专利并向其独家授权。

苹果本地AI布局:隐私与效率的双重驱动

苹果目前已在设备端本地运行部分AI功能,包括翻译、部分摘要生成及与个人信息密切相关的特性,较复杂的请求则路由至其私有云基础设施或外部模型。

Asymco创始人Horace Dediu表示,苹果的目标很可能是将绝大多数日常Siri交互保留在设备端,仅将最高需求的任务交付云端处理。本地处理意味着更低延迟、更强隐私保护,以及潜在的更低授权和云计算成本。

Creative Strategies总裁兼首席分析师Carolina Milanesi指出,更小的模型可让苹果将更多高需求功能移至iPhone本地,包括计算摄影、视频生成,以及依赖健康、药物等敏感数据的健康与健身工具。"设备端能做的越多越好,"她说。

苹果在推进本地AI方面具备潜在优势——其芯片与软件协同设计,对AI在设备上的运行拥有更精密的控制权。

分析师警示:规模化验证是关键门槛

尽管技术指标亮眼,分析师普遍提示,PrismML的声明尚需在受控演示之外得到验证。

Counterpoint Research研究总监Tarun Pathak表示,模型在长提示下的表现、多任务处理时的电池消耗,以及跨数百万次请求和数千种设备组合的可靠性,将是关键考量。他说:

"最终考验将是数百万次查询、数千种设备组合以及大规模稳健测试。"

IDC客户端处理器研究负责人Phil Solis则指出,功耗可能是最大的未知变量。一个足够强大、被频繁使用甚至在后台持续运行以执行智能体任务的模型,即便内存占用较低,也可能对手机电量造成显著消耗。

对芯片需求的影响:需求转移而非消失

PrismML的发布也触及了市场对AI效率提升能否最终压缩芯片需求这一持续争论。

摩根士丹利估计,苹果在2027财年的每比特动态随机存取内存平均成本可能同比上涨约190%,NAND存储成本上涨约180%。该机构预计苹果将把iPhone 18同等起售机型的价格提高约200美元以保护利润率。

PrismML表示,其压缩方案可使原本需要8块GPU运行的云端模型缩减至仅需1块,并让原本依赖服务器的模型迁移至手机和笔记本电脑。这可能降低单一AI任务所需的内存或算力,但并不必然导致整体芯片需求下滑。

D.A. Davidson分析师Gil Luria表示,模型瘦身并不会消除对处理器或内存的需求,只是将更多芯片从数据中心转移至手机等终端设备。"你仍然需要GPU,仍然需要内存,"他说。

他还补充,在单一设备上运行AI实际上可能比共享数据中心基础设施效率更低,因为手机芯片大多数时候处于闲置状态。此外,效率突破往往催生更多使用需求,而非带来支出下降。

市场对"AI所需内存少于预期"的信号向来反应灵敏。今年3月,谷歌发布TurboQuant论文——涉及在不损害模型性能的前提下削减内存使用——美光科技股价随即大幅下跌,尽管此后有所回升。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拍戏、直播、开店……54岁男演员自曝养老规划:现在拼命挣钱,只为老了开一家非营业性老年公寓,和朋友们抱团取暖、旅游、下棋过集体生活

拍戏、直播、开店……54岁男演员自曝养老规划:现在拼命挣钱,只为老了开一家非营业性老年公寓,和朋友们抱团取暖、旅游、下棋过集体生活

都市快报橙柿互动
2026-10-11 11:58:35
日本博主吐槽吐鲁番就餐被赶!只因一句国籍回答,报警后结局出人意料

日本博主吐槽吐鲁番就餐被赶!只因一句国籍回答,报警后结局出人意料

小徐讲八卦
2026-10-10 07:25:58
白宫淡化鬣狗咬特朗普事件 称媒体关注是自由派偏见

白宫淡化鬣狗咬特朗普事件 称媒体关注是自由派偏见

赴一场山海啊
2026-10-10 02:42:07
台媒发文称张韶涵“在台北机场对粉丝冷脸”,强调她7年未在台湾开唱,张韶涵演唱会上把道具“猴子”换成“烂苹果”砸烂,硬刚台媒

台媒发文称张韶涵“在台北机场对粉丝冷脸”,强调她7年未在台湾开唱,张韶涵演唱会上把道具“猴子”换成“烂苹果”砸烂,硬刚台媒

大风新闻
2026-10-08 15:16:05
每天杯中丢几片,肺中积浊全清空!黄痰白痰一扫净!

每天杯中丢几片,肺中积浊全清空!黄痰白痰一扫净!

鬼菜生活
2026-10-11 11:00:49
一位高一妈妈的后悔信:如果孩子刚上初中,我一定把这7件事告诉他

一位高一妈妈的后悔信:如果孩子刚上初中,我一定把这7件事告诉他

小阳妈妈在努力
2026-10-09 12:07:46
新疆发布评尊界刹车断裂风波

新疆发布评尊界刹车断裂风波

小南看车
2026-10-10 22:27:28
1-0,绝杀蓉城,津门虎惹事了!川媒:以后没得朋友做了

1-0,绝杀蓉城,津门虎惹事了!川媒:以后没得朋友做了

建哥说体育
2026-10-11 08:22:41
10月10日,人社部发布会公布重要消息,提到2026年养老金调整吗?

10月10日,人社部发布会公布重要消息,提到2026年养老金调整吗?

虎哥闲聊
2026-10-10 11:44:23
杨兰兰财富来源为何查不清?澳洲旧反洗钱规则漏了哪些环节?

杨兰兰财富来源为何查不清?澳洲旧反洗钱规则漏了哪些环节?

江山挥笔
2026-10-10 11:15:21
俄罗斯“鼠疫”国际上炒翻天了,国内却没动静(墨子独家)

俄罗斯“鼠疫”国际上炒翻天了,国内却没动静(墨子独家)

墨子连山
2026-10-10 13:45:27
武汉一中学让家长轮值晚自习被骂,校方回应老师不能连续工作14小时,学校怎么就成了出气筒?

武汉一中学让家长轮值晚自习被骂,校方回应老师不能连续工作14小时,学校怎么就成了出气筒?

教育人看世界
2026-10-10 21:58:25
王曼昱4-1张本美和 听听日媒都说啥

王曼昱4-1张本美和 听听日媒都说啥

林子说事
2026-10-11 10:45:07
歹竹出好笋!宋丹丹也没想到,英如镝一出手就口碑暴涨,巴图沉默

歹竹出好笋!宋丹丹也没想到,英如镝一出手就口碑暴涨,巴图沉默

余鴡搞笑段子
2026-10-09 19:31:39
四大家族覆灭后,亲历者揭露:长得不好看的女子,最终归宿是公海

四大家族覆灭后,亲历者揭露:长得不好看的女子,最终归宿是公海

莫地方
2026-10-10 20:18:19
天津一公司男领导给女下属发送淫秽露骨照片,母亲上门讨说法,知情人:事发隔壁公司,女孩可能刚毕业,性格比较腼腆,后续有民警到场处理

天津一公司男领导给女下属发送淫秽露骨照片,母亲上门讨说法,知情人:事发隔壁公司,女孩可能刚毕业,性格比较腼腆,后续有民警到场处理

潇湘晨报
2026-10-10 16:49:10
开局之年看中国·潮涌荆楚|搬迁35公里,为中华鲟让出生命通道

开局之年看中国·潮涌荆楚|搬迁35公里,为中华鲟让出生命通道

极目新闻
2026-10-09 22:21:26
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
飞天奖这晚,闫妮无语挂脸,迟蓬一脸不屑,宋佳大满贯骂声满天飞

飞天奖这晚,闫妮无语挂脸,迟蓬一脸不屑,宋佳大满贯骂声满天飞

洲洲影视娱评
2026-10-10 12:44:45
德甲最快进球!诺伊尔超巨失误,开场1秒被断球,对手8秒破门

德甲最快进球!诺伊尔超巨失误,开场1秒被断球,对手8秒破门

奥拜尔
2026-10-10 22:00:10
2026-10-11 14:12:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
153302文章数 2655010关注度
往期回顾 全部

科技要闻

卸任CEO后,苹果董事长库克再度到访中国

头条要闻

男子打扫发现女友偷留上千私房钱 喊兄弟来家中"作案"

头条要闻

男子打扫发现女友偷留上千私房钱 喊兄弟来家中"作案"

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

梅艳芳63岁冥诞骨灰被盗,亲哥从不知情

财经要闻

黄仁勋长女完婚,万亿帝国如何传承?

汽车要闻

红旗天工07上市 限时16.79万起 硬核通关巴音布鲁克

态度原创

旅游
数码
游戏
手机
艺术

旅游要闻

接下来的北京好美!赏红叶如何“不跑空”?预报来了→

数码要闻

小米首款NAS迎重要更新!支持定期检测硬盘健康状态

巫师3RE开光追帧率暴跌!CDPR仍需努力优化

手机要闻

荣耀、vivo、小米、OPPO新旗舰最新销量数据汇总

艺术要闻

中国当代画家,区础坚作品选(二)

无障碍浏览 进入关怀版