网易首页 > 网易号 > 正文 申请入驻

工程师吐槽:别啥都往云端送,本地AI才是真香

0
分享至

八年前大家还在讨论云计算能省多少服务器成本,现在风向变了。IT工程师Cyrus Lopez最近发了篇文章,核心观点就一个:别再把AI功能无脑塞给云端,本地AI应该成为默认选项。这话听着反直觉——毕竟OpenAI、Anthropic的API接入现在几乎是App开发的标配——但Lopez算了一笔账,发现"方便"背后藏着一堆坑。

第一个坑是合规爆炸。用户的文章、邮件、笔记一旦送出设备,你的App就从"有个小功能"变成"数据存储服务"。得管同意书、审计日志、泄露预案,还得应付政府调取数据的要求。Lopez的原话是:你可能只是想做个摘要功能,结果搭了个成本高昂的分布式系统。


第二个坑是稳定性。云端AI意味着你的功能质量取决于:网络状况、AI服务商有没有宕机、API限没限流、账单有没有欠费、自家服务器扛不扛得住。任何一个环节出问题,用户看到的都是"加载失败"。


Lopez拿自己开发的"The Brutalist Report"举了正面例子。这个新闻聚合App的iOS版本用Apple本地模型API做摘要,数据不出设备,不需要AI服务商账号,连prompt日志都不外传。逻辑很简单:用户已经在手机上读了文章,摘要当然也该在手机上生成。

他进一步划清了本地AI的适用边界——不是"查全世界的知识",而是"处理用户自己的数据"。邮件摘要、从备忘录提取待办、文档分类、文字整理,这些不需要GPT-4级别的模型,手机上的小型AI完全够用。


关于信任,Lopez的观点更直接:写十页隐私政策不如一开始就不拿走数据。用户的数据就该待在用户设备上,AI功能不该是贴上去的聊天框,而是App内部稳定运行的处理模块。

他也没把云端AI一棒子打死,承认高性能模型在特定场景确实必要。但底线很清楚:能在设备上跑的功能,没必要把数据送出去。这个区分标准,可能是接下来AI产品设计的分水岭。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女生最渴望被刺激的四种生理性欲望,网友称赞我又学到了

女生最渴望被刺激的四种生理性欲望,网友称赞我又学到了

那年秋天
2026-04-18 12:30:09
京沪高铁宣布涨价!无锡到北京二等座票价约涨115元

京沪高铁宣布涨价!无锡到北京二等座票价约涨115元

江南晚报
2026-05-12 18:22:27
震惊!沈阳外卖小哥全款提奥迪A6引争议,评论炸锅,观点争锋相对

震惊!沈阳外卖小哥全款提奥迪A6引争议,评论炸锅,观点争锋相对

火山詩话
2026-05-10 09:52:37
张本美和回国后绝口不提0-3孙颖莎:终拿下王曼昱 未来要赢中国队

张本美和回国后绝口不提0-3孙颖莎:终拿下王曼昱 未来要赢中国队

风过乡
2026-05-12 21:07:30
以色列:伊朗1500枚导弹大部分被拦下,铁穹99%拦截率

以色列:伊朗1500枚导弹大部分被拦下,铁穹99%拦截率

桂系007
2026-05-11 23:44:58
德国工程师:中国人难道不知南水北调的弊端,环保大国称号何来?

德国工程师:中国人难道不知南水北调的弊端,环保大国称号何来?

心灵得以滋养
2026-03-13 22:44:44
离婚后住浙江娘家,亲妈和继父给带孩子,她却在娱乐圈闯出一片天

离婚后住浙江娘家,亲妈和继父给带孩子,她却在娱乐圈闯出一片天

以茶带书
2026-05-11 16:28:20
“瘙痒”,不读sāo yǎng,你不服气也没用!

“瘙痒”,不读sāo yǎng,你不服气也没用!

未央看点
2026-05-12 18:46:49
佛山一区新任命多名局长

佛山一区新任命多名局长

南方都市报
2026-05-12 20:52:57
618可能有“神价”的5款手机,等等党的机会来了

618可能有“神价”的5款手机,等等党的机会来了

小柱解说游戏
2026-05-12 10:40:35
15天从确诊到离世!顾国宁半生顺遂,最后却双亲离世、婚姻破碎

15天从确诊到离世!顾国宁半生顺遂,最后却双亲离世、婚姻破碎

秋姐居
2026-05-12 19:36:45
尊重历史,青海马家军在陕西山西河南跟日军血战八年,是真的吗?

尊重历史,青海马家军在陕西山西河南跟日军血战八年,是真的吗?

鹤羽说个事
2026-05-12 22:36:35
奔驰撞人2死6伤后续:女司机正脸曝光,职业反差太大 路人曝猛料

奔驰撞人2死6伤后续:女司机正脸曝光,职业反差太大 路人曝猛料

法老不说教
2026-05-11 18:18:17
尼日尔撕毁4亿美元合同,并驱逐中方高管,我方暗藏后手漂亮反击

尼日尔撕毁4亿美元合同,并驱逐中方高管,我方暗藏后手漂亮反击

诡谲怪谈
2025-04-30 22:17:42
FCC要实名制买手机号:匿名通话时代终结?

FCC要实名制买手机号:匿名通话时代终结?

码上闲叙
2026-05-11 11:31:02
原来林诗栋的姐姐是她,怪不得能成为世界冠军,日本队输得不冤!

原来林诗栋的姐姐是她,怪不得能成为世界冠军,日本队输得不冤!

林子说事
2026-05-12 16:15:13
陈皮加它一起煮,倒头就睡还疏肝宁神,我靠这招睡饱觉气色好

陈皮加它一起煮,倒头就睡还疏肝宁神,我靠这招睡饱觉气色好

江江食研社
2026-03-10 14:13:03
CBA现集体抗议!主场喊黑哨10分钟,山西27万罚单引热议

CBA现集体抗议!主场喊黑哨10分钟,山西27万罚单引热议

云隐南山
2026-05-12 18:19:15
这6种食物不能“二次加热”,吃不完就倒掉,别为节省,害了自己

这6种食物不能“二次加热”,吃不完就倒掉,别为节省,害了自己

所食所想
2026-04-01 10:30:32
骆家辉警告中国:最好不要自主生产尖端芯片,这不是美国想看到的

骆家辉警告中国:最好不要自主生产尖端芯片,这不是美国想看到的

蜉蝣说
2026-04-14 17:00:37
2026-05-13 02:47:00
Ping值焦虑
Ping值焦虑
有态度网友ytd
2468文章数 38关注度
往期回顾 全部

科技要闻

宇树发布载人变形机甲,定价390万元起

头条要闻

特朗普称将同中方讨论对台军售和黎智英案 外交部回应

头条要闻

特朗普称将同中方讨论对台军售和黎智英案 外交部回应

体育要闻

骑士终于玩明白了?

娱乐要闻

白鹿风波升级!掉粉20万评论区沦陷

财经要闻

利润再腰斩 京东干外卖后就没过过好日子

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

艺术
游戏
房产
旅游
军事航空

艺术要闻

震惊!他竟用镜头看透了所有女人的秘密!

活久见!电棍与香锅怒喷被撸圈开除后和解,祝Mlxg母亲节日快乐

房产要闻

穗八条引爆楼市!万博宝藏红盘,五一劲销出圈

旅游要闻

故宫挤满游客,人人撑伞前行:宁愿热到出汗,也要奔赴紫禁城!

军事要闻

知情人士披露:美国或考虑恢复对伊朗军事行动

无障碍浏览 进入关怀版