网易首页 > 网易号 > 正文 申请入驻

手机跑270亿参数大模型,端侧AI要变天了

0
分享至

一个iPhone用户现在可以在离线状态下,运行参数量高达270亿的大语言模型,而且生成代码的质量能跟Claude最新版掰手腕。这事是Hugging Face联合创始人Clement Delangue亲口说的,他在评价一款叫AI Desktop 98的应用时,提到了Qwen 3.6 27B模型的表现。

270亿参数是什么概念?两年前,这种规模的模型还得靠数据中心的专业GPU集群才能跑起来。现在它塞进了一部手机,不需要联网,不调用任何云端API。Delangue的原话是,这个本地模型的代码生成质量"comparable to Claude's latest Opus model"——直接对标Anthropic的旗舰产品。


这对移动AI应用的影响是结构性的。首先,隐私敏感场景终于有解了。医疗、金融、法律这些对数据出境极度谨慎的领域,以前想用大模型只能自建机房,现在一台手机就能搞定核心推理。其次,延迟问题消失了。云端模型再快也有网络往返,本地推理的响应速度是毫秒级。最后,成本结构彻底改写——没有API调用费,没有带宽开销,一次性下载模型后边际成本趋近于零。


开发者能做什么?把以前不敢想的AI功能直接塞进App。实时代码补全、离线文档分析、端侧智能助手,这些过去因为依赖云端而受限的场景,现在可以原生运行。更重要的是,这种模式把算力从集中式数据中心"稀释"到了无数边缘设备,AI的部署拓扑正在从星型结构向网状结构演变。

但企业级场景完全是另一套逻辑。一位来自Fortune 500/FAANG级别的工程师在Reddit分享了他们团队的AI代码生成工作流,核心原则只有一句话:把人当成瓶颈。

具体怎么操作?AI生成的代码和人类写的代码走完全相同的流程——测试、调试、代码审查,一样不能少。这位工程师强调,AI可以加速开发,但绝不豁免工程师对bug和质量的责任。任何AI输出的代码,最终所有权和问责都落在人类开发者头上。


这种"人类在环"(human-in-the-loop)的设计不是保守,而是对生产环境的敬畏。企业代码库动辄百万行,一个细微的幻觉错误可能引发级联故障。把AI定位为"助手"而非"自主代理",本质上是在工具能力与风险控制之间划清边界。这位工程师的原话是,他们的workflow acknowledges that while AI can accelerate development, it doesn't absolve engineers of responsibility for bugs or quality。

两条线索指向同一个判断:AI正在从"炫技"走向"干活"。手机端跑270亿参数模型,解决的是"能不能用"的问题;企业流程里强制人类审核,解决的是"敢不敢用"的问题。技术突破和治理框架同步进化,这才是AI真正进入生产环境的标志。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
输球后徐正源没有马上离开现场,情绪低落感谢球迷到沈阳助威

输球后徐正源没有马上离开现场,情绪低落感谢球迷到沈阳助威

辽沈音信
2026-05-11 18:41:07
为了冲10%增长,越南赌场KTV全面松绑

为了冲10%增长,越南赌场KTV全面松绑

凤眼论
2026-05-10 22:14:23
江苏一95岁爷爷误把“新疆”听成“靖江”,骑行50多公里找孙子,带给孙子的零食一口没舍得吃

江苏一95岁爷爷误把“新疆”听成“靖江”,骑行50多公里找孙子,带给孙子的零食一口没舍得吃

环球网资讯
2026-05-11 15:25:32
乒联公布第20周世界排名:张本美和第3创新高!林诗栋梁靖崑回升

乒联公布第20周世界排名:张本美和第3创新高!林诗栋梁靖崑回升

全言作品
2026-05-11 16:18:28
中国4月销量最高车型出炉:特斯拉Model Y屈居第二

中国4月销量最高车型出炉:特斯拉Model Y屈居第二

快科技
2026-05-11 18:30:32
CCTV5直播!北京VS广东G3生死战,周琦成取胜关键,许利民输不起

CCTV5直播!北京VS广东G3生死战,周琦成取胜关键,许利民输不起

老叶评球
2026-05-10 20:06:29
NBA乐透抽签揭晓!奇才状元爵士榜眼灰熊探花 快船幸运获得5号签

NBA乐透抽签揭晓!奇才状元爵士榜眼灰熊探花 快船幸运获得5号签

罗说NBA
2026-05-11 04:54:29
1984年叶剑英病危,追悼会花圈已备好,35岁才当医生的钟南山凭什么临危受命救回元帅?

1984年叶剑英病危,追悼会花圈已备好,35岁才当医生的钟南山凭什么临危受命救回元帅?

史海孤雁
2026-05-09 19:13:11
北方迎高温“快闪” 之后,冷空气将“断崖式”降温

北方迎高温“快闪” 之后,冷空气将“断崖式”降温

中国能源网
2026-05-11 10:22:05
疑遭日本主帅批评!张本智和:不能全怪我 2年后看我在日本咋复仇

疑遭日本主帅批评!张本智和:不能全怪我 2年后看我在日本咋复仇

风过乡
2026-05-11 12:49:51
央视主持人朱迅:生命终将结束,为啥不勇敢面对生命的终点呢

央视主持人朱迅:生命终将结束,为啥不勇敢面对生命的终点呢

悠悠说世界
2026-05-11 02:32:56
“见过最廉价的兜底”,一份山姆烧鸡,让低认知母子沦为全网笑柄

“见过最廉价的兜底”,一份山姆烧鸡,让低认知母子沦为全网笑柄

妍妍教育日记
2026-04-15 09:30:09
北京VS广东G3前瞻:京粤抢三生死战,CCTV5直播,胜者PK上海

北京VS广东G3前瞻:京粤抢三生死战,CCTV5直播,胜者PK上海

薇说体育
2026-05-11 17:29:41
钱再多有什么用?52岁刘强东上千亿身家,儿子却是他一生的遗憾

钱再多有什么用?52岁刘强东上千亿身家,儿子却是他一生的遗憾

阿筀田间生活
2026-03-30 14:47:12
弊端显现!7岁小天赐74岁妈妈患病,剃光头发暴瘦,疑似接受化疗

弊端显现!7岁小天赐74岁妈妈患病,剃光头发暴瘦,疑似接受化疗

裕丰娱间说
2026-05-10 20:35:50
28.8万彩礼被38.8万“截胡”的现实

28.8万彩礼被38.8万“截胡”的现实

巧哥有话说
2026-05-11 14:31:49
母亲生病66个电话催我转15万,我刚出发,母亲:用不着回来

母亲生病66个电话催我转15万,我刚出发,母亲:用不着回来

茶余饭后故事会
2026-05-10 12:22:22
没有任何一个女人,会在自己喜欢的男人面前,表现的很强势

没有任何一个女人,会在自己喜欢的男人面前,表现的很强势

加油丁小文
2026-04-08 08:30:05
我国目前仍有两个机场公安局实行垂直管理,其中一个设在高校内

我国目前仍有两个机场公安局实行垂直管理,其中一个设在高校内

小圣杂谈原创
2026-05-09 15:58:24
Nice!杜兰特点赞!勇士第一笔重磅签约

Nice!杜兰特点赞!勇士第一笔重磅签约

篮球实战宝典
2026-05-10 19:42:35
2026-05-11 19:19:00
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
2566文章数 24关注度
往期回顾 全部

科技要闻

黄仁勋:你们赶上了一代人一次的大机会

头条要闻

外交部介绍特朗普访华具体安排和中方期待

头条要闻

外交部介绍特朗普访华具体安排和中方期待

体育要闻

梁靖崑:可能是最后一届了,想让大家记住这个我

娱乐要闻

“孕妇坠崖案”王暖暖称被霸凌协商解约

财经要闻

多重催化剂共振,人民币汇率升破6.8

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

游戏
健康
本地
亲子
军事航空

《魔法门之英雄无敌:上古纪元》EA评测8.9分:最后的英雄

干细胞能让人“返老还童”吗

本地新闻

用苏绣的方式,打开江西婺源

亲子要闻

阿不力挖不力,这是谁的声音?

军事要闻

特朗普:伊朗的回应“完全不可接受”

无障碍浏览 进入关怀版