八年前大家还在讨论云计算能省多少服务器成本,现在风向变了。IT工程师Cyrus Lopez最近发了篇文章,核心观点就一个:别再把AI功能无脑塞给云端,本地AI应该成为默认选项。这话听着反直觉——毕竟OpenAI、Anthropic的API接入现在几乎是App开发的标配——但Lopez算了一笔账,发现"方便"背后藏着一堆坑。
第一个坑是合规爆炸。用户的文章、邮件、笔记一旦送出设备,你的App就从"有个小功能"变成"数据存储服务"。得管同意书、审计日志、泄露预案,还得应付政府调取数据的要求。Lopez的原话是:你可能只是想做个摘要功能,结果搭了个成本高昂的分布式系统。
![]()
第二个坑是稳定性。云端AI意味着你的功能质量取决于:网络状况、AI服务商有没有宕机、API限没限流、账单有没有欠费、自家服务器扛不扛得住。任何一个环节出问题,用户看到的都是"加载失败"。
![]()
Lopez拿自己开发的"The Brutalist Report"举了正面例子。这个新闻聚合App的iOS版本用Apple本地模型API做摘要,数据不出设备,不需要AI服务商账号,连prompt日志都不外传。逻辑很简单:用户已经在手机上读了文章,摘要当然也该在手机上生成。
他进一步划清了本地AI的适用边界——不是"查全世界的知识",而是"处理用户自己的数据"。邮件摘要、从备忘录提取待办、文档分类、文字整理,这些不需要GPT-4级别的模型,手机上的小型AI完全够用。
![]()
关于信任,Lopez的观点更直接:写十页隐私政策不如一开始就不拿走数据。用户的数据就该待在用户设备上,AI功能不该是贴上去的聊天框,而是App内部稳定运行的处理模块。
他也没把云端AI一棒子打死,承认高性能模型在特定场景确实必要。但底线很清楚:能在设备上跑的功能,没必要把数据送出去。这个区分标准,可能是接下来AI产品设计的分水岭。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.