上次说“AI白菜价”之后,有人说:便宜是便宜,可我还是得联网、还是得把数据传上去。几天过去,这个前提正在被拆掉。
10月23日,MiniMax开源M3.1 Flash,上线72小时处理量突破100万亿Token。同一周,科大讯飞端云一体架构落地,明确提出把60%的常规任务放在端侧完成,推理Token成本直接归零。英伟达的Nemotron 3.5 Bolt把740亿参数压到22.1GB,塞进了已经开卖的RTX Spark笔记本。面壁智能的MiniCPM-V 4.7,35B的MoE模型,3GB内存就能跑出15+ token/s。
![]()
云端在降价,端侧在“装得下”。两头同时塌方,AI的成本账本被撕了重写。
先把数字摆清楚。
Epoch AI最新的追踪数据:达到同等性能水平的AI成本,自2023年以来以每季度约47%的幅度下降,一年之内推理成本降到原先的十三分之一。这不是某一家厂商的促销,是整个行业的成本曲线在陡峭下坠。落到具体产品上,MiniMax M3.1 Flash的输入价格压到每百万Token 1元,输出4元,综合成本只有上一代M3的30%。科大讯飞星火X2.6云端版输入限时0.9元/百万tokens,端侧4B开源模型推理直接限时免费。
但真正改变格局的,是端侧那条线。
过去“本地跑大模型”卡在一个死结上:参数越大越聪明,可越大越装不进普通电脑。这次被撬开的,恰恰是这个死结。面壁的解法是MoE加“前瞻专家调度”,35B的总参数每次只激活30亿,把“大而全”拆成“按需调用”,3GB内存就能无损运行。英伟达的解法更暴力:把740亿参数的模型从148GB压到22.1GB,砍掉85%的体积,塞进24GB级本地设备,看图、写代码、调用工具全留在本机。再配合Strata 0.2把本地运行门槛降到内存+显存合计27.6GB,一台带12GB显卡的普通台式机,最低20GB内存就能开始跑。
翻译成一句话:“AI白菜价”的上半场是租着便宜,下半场是买了更便宜。
![]()
算一笔最简单的账。一个日活中等的开发者工具,如果每次调用都走云端API,Token账单是持续的、随用量线性增长的、月底必须付的。而一台27.6GB内存的机器加一套开源模型,前期一次性投入,之后每次推理的边际成本趋近于零。Reka刚刚放出的免费本地代码模型Flint,400亿参数、单次只激活25亿,直接在笔记本上离线运行,连网络都不需要。对写代码、改Bug、文档处理这类高频重复任务来说,“零Token成本”不是营销话术,是实实在在的账。
科大讯飞今天把这条账算得更细:端云一体架构把任务切成三层——60%常规任务本地跑,数据不出域,零Token成本;30%端云协同,省5倍以上Token;只有10%的高复杂度任务交给云端。端云路由准确率做到96.1%,意味着绝大多数任务在端侧就被正确识别和消化掉了,根本不需要往云上送。隐私保护和成本控制,第一次在同一套架构里同时成立,而不是互相牺牲。
所以现在的局面很清楚:云端API在把“单价”打到地板,端侧硬件和开源模型在把“总价”打到地板。两股力量往同一个方向推,结果是AI的使用成本不再是一条缓慢下滑的曲线,而是一次结构性的重置。
对普通人来说,信号很具体:如果你手里已经有一台内存不算太寒酸的电脑,2026年秋天可能是第一次,不花API钱、不传数据出门,也能让一个足够聪明的模型替你干日常活的窗口期。对开发者和小团队来说,更关键的不是哪个模型又便宜了几毛钱,而是“本地推理”第一次从极客实验变成了可以写进产品架构的默认选项。
白菜价的第一层,是别人替你付了规模的钱。第二层,是你自己把规模握在了手里。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.