网易首页 > 网易号 > 正文 申请入驻

90% token被浪费:AI编程的「渐进式加载」藏了3年

0
分享至


一个语法校验器有20个关联文件,开发者习惯一次性全塞进上下文窗口。结果?token瞬间爆满,AI在噪音里迷路,连简单的DECLARE验证都答错。

这不是AI变笨了,是你喂饭的方式太粗暴。

渐进式披露(Progressive Disclosure)在界面设计里是老朋友——先给用户看核心,需要时再展开细节。把它搬到AI编程技能架构上,token消耗能砍掉90%,响应速度却纹丝不动。

一次性加载的灾难现场

想象你走进一家图书馆,管理员不问你要查什么,直接把20个书架全推倒你面前。DECLARE规则、数组语法、嵌套数组、函数调用、循环结构……全混在一起。

你只想问「DECLARE 123合法吗」,AI却不得不先读完15000token的庞然大物。上下文窗口被无关规则塞满,留给对话的空间归零。 hallucination(幻觉)开始冒头,追问?没门,窗口早爆了。

更隐蔽的损耗藏在响应模板里。一个完整的技能文件往往包含「何时用」「怎么用」「输出格式」三块,但单次请求通常只触发其中一块。剩下的变成沉默成本,像买了全票却只坐了一站地铁。

关键词触发:让AI自己点菜


渐进式披露的核心机制是关键词映射。你在主技能文件里埋入触发器,AI识别到特定词汇才加载对应子模块。

输入「DECLARE 123」,系统捕捉到DECLARE关键词,只拉取declaration.md。数组相关规则?函数调用细节?循环语法?全留在硬盘里睡觉。

这种「按需索取」把token消耗从15000压到1500,精度反而提升——AI的视野里只有当下需要的规则,没有干扰项。

实现层面需要三件套:用「What/When/How」模式写描述,让AI快速判断技能相关性;在主文件里建条件规则,定义关键词与文件的映射关系;准备响应模板,确保输出格式一致。AI通过关键词主动请求资源,开发者不用猜它会用到哪部分。

三层加载:从名片到手术刀

完整的渐进式披露分三个阶段运作,像递名片、聊需求、动手术,层层递进。

Discovery(发现阶段):启动时只加载技能的元数据——名字和描述。AI知道「有个语法校验器存在」,但不知道它具体能干嘛。这个阶段零token开销,纯索引。

Activation(激活阶段):任务描述匹配上技能标签,SKILL.md完整指令才进上下文。AI现在明白「要校验语法」,但还没碰具体规则文件。


Execution(执行阶段):解析用户输入时检测到DECLARE关键词,对应子模块动态加载。AI终于拿起手术刀,但只切需要的那一刀。

每个阶段都由真实需求触发,而非预加载的保险策略。复杂技能可以无限膨胀——加100个子模块也不影响启动速度,因为没人会一次性唤醒它们。

模块化拆分的工程细节

把单体文件拆成模块不是简单切块,得按「独立触发单元」重组。语法校验器的正确姿势是:declaration.md管DECLARE规则,array.md管数组,nested-array.md管嵌套,function-call.md管调用,loop.md管循环。

每个子模块内部保持自洽,包含自己的规则、示例、边界情况。主文件只负责路由——「看到DECLARE就去declaration.md,看到[就去array.md」。

这种结构让调试变得透明。AI输出异常时,你一眼就能定位是哪个子模块在作妖,不用在15000token里大海捞针。

响应模板也要分层。发现阶段返回技能列表,激活阶段返回能力说明,执行阶段返回具体校验结果。同一技能在不同阶段呈现不同面貌,用户不会收到超纲信息。

渐进式披露本质上是把「开发者预设」翻转成「AI自选」。传统做法是你猜AI需要什么,提前备好;新做法是AI自己判断需要什么,实时索取。后者在信息过载场景下几乎是唯一解——当技能复杂度超过上下文窗口的10%,预加载必然崩盘。

有个细节值得玩味:关键词触发机制让AI获得了某种「元认知」能力。它不再被动接受全部指令,而是主动发起资源请求。这种架构下的AI更像调用API的程序员,而非执行脚本的解释器。

当你的技能文件突破5000token时,渐进式披露就从优化选项变成生存必需。现在检查你的技能架构:有多少token正在沉默燃烧?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
英媒:中东新四国集团出现

英媒:中东新四国集团出现

参考消息
2026-03-31 19:24:44
郑丽文访问大陆,侯友宜不装了,王鸿薇一句话,让赖清德无奈

郑丽文访问大陆,侯友宜不装了,王鸿薇一句话,让赖清德无奈

DS北风
2026-04-01 17:38:03
以4月开始,中国可能出现四大涨潮:除了油价外,这三类也会上调

以4月开始,中国可能出现四大涨潮:除了油价外,这三类也会上调

徐慍解说
2026-03-31 17:50:56
河南这个地方,何以“味”动全国?

河南这个地方,何以“味”动全国?

人民网
2026-03-31 09:34:07
美核潜艇撞击事故两年后,我国海军透露:两年前曾有一次绝密任务

美核潜艇撞击事故两年后,我国海军透露:两年前曾有一次绝密任务

墨印斋
2026-04-01 10:35:35
蚊子不是随机咬人!?Science子刊最新研究,破解蚊子为何总能精准找到你

蚊子不是随机咬人!?Science子刊最新研究,破解蚊子为何总能精准找到你

生命科学前沿
2026-04-01 10:35:05
已有惨剧发生!张雪机车再回应禁止新手购买820RR:希望少死几个人

已有惨剧发生!张雪机车再回应禁止新手购买820RR:希望少死几个人

快科技
2026-03-31 10:54:10
同为历史第一多的1228场胜利,可詹姆斯的胜率明显不如贾巴尔!

同为历史第一多的1228场胜利,可詹姆斯的胜率明显不如贾巴尔!

田先生篮球
2026-03-31 18:04:03
不到24小时,郑丽文敲定访陆名单,公开挑战马英九,连战出山撑腰

不到24小时,郑丽文敲定访陆名单,公开挑战马英九,连战出山撑腰

阿天爱旅行
2026-04-01 08:03:22
央视曝光、首富被查、中办点名!针对“虚假政绩”的清算风暴来了

央视曝光、首富被查、中办点名!针对“虚假政绩”的清算风暴来了

离离言几许
2026-04-01 14:53:16
59岁尹乃菁陪郑丽文赴江苏,这位镇江籍央视评论员又要“回家”了

59岁尹乃菁陪郑丽文赴江苏,这位镇江籍央视评论员又要“回家”了

小椰的奶奶
2026-04-01 10:27:01
美伊大战,却打掉了印度的国运,莫迪终于为自己的短视付出代价!

美伊大战,却打掉了印度的国运,莫迪终于为自己的短视付出代价!

知法而形
2026-03-31 19:15:36
25国大军逼近!特朗普下死手,日军越界1000人,解放军双语下通牒

25国大军逼近!特朗普下死手,日军越界1000人,解放军双语下通牒

素衣读史
2026-03-31 16:49:48
小杨阿姨出门买菜,马筱梅妈妈紧跟其后,网友:你女儿觉得你太累

小杨阿姨出门买菜,马筱梅妈妈紧跟其后,网友:你女儿觉得你太累

离离言几许
2026-04-01 14:19:22
600488“一字”涨停,4连板!

600488“一字”涨停,4连板!

新浪财经
2026-04-01 12:53:50
波黑门将:失误导致基恩进球的时候我心都凉了,好在队友挽救了我

波黑门将:失误导致基恩进球的时候我心都凉了,好在队友挽救了我

懂球帝
2026-04-01 19:29:04
随着一场2-1绝杀,亚洲杯24强基本出炉,国足世界排名被泰国反超

随着一场2-1绝杀,亚洲杯24强基本出炉,国足世界排名被泰国反超

侃球熊弟
2026-04-01 03:48:31
日经225指数涨幅扩大至5%,现报53620.40点

日经225指数涨幅扩大至5%,现报53620.40点

每日经济新闻
2026-04-01 13:57:06
炸锅!中央官宣!4 月 1 日起药店买药能报销,不用再跑医院!

炸锅!中央官宣!4 月 1 日起药店买药能报销,不用再跑医院!

杰丝聊古今
2026-04-01 04:07:31
菜市场泡过“药水”的4种蔬菜,老板从不碰,可惜不少人都爱买

菜市场泡过“药水”的4种蔬菜,老板从不碰,可惜不少人都爱买

阿莱美食汇
2026-04-01 12:34:09
2026-04-01 20:35:00
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
616文章数 6关注度
往期回顾 全部

科技要闻

甲骨文血洗3万人,47人团队仅留3人

头条要闻

小伙扫共享单车上的码亏一套房首付 一夜白头自扇巴掌

头条要闻

小伙扫共享单车上的码亏一套房首付 一夜白头自扇巴掌

体育要闻

NBA扩军,和篮球无关?

娱乐要闻

宋宁峰人设崩塌!带娃偷情+反向索赔

财经要闻

电商售械三水光针 机构倒货or假货猖獗?

汽车要闻

三电可靠 用料下本 百万公里的蔚来ES6 拆开看

态度原创

数码
艺术
本地
手机
公开课

数码要闻

Framework CEO指责MacBook Neo:电脑应该是属于用户自己

艺术要闻

Alexandra Manukyan油画选刊(二)

本地新闻

从学徒到世界冠军,为什么说张雪的底气在重庆?

手机要闻

OPPO K15 Pro+评测首发:电竞风太足了!长续航是亮点

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版