30个任务升级14次，准确率43.3%没变，成本涨8.2倍

先问一个问题：让便宜模型先答，答完自己报个置信度，低于阈值就转给强模型——这套路由方案，你是不是也想过？

有人真把它跑了一遍。30个任务，三档策略，本地模型，真实token数配上公开定价。结果：路由版把30个任务里的14个升级给了强模型，最终准确率和完全不路由一模一样，都是43.3%，钱却多花了8.2倍。

第一眼看上去，结论是"路由啥也没干"。这个读法是错的。把每个任务单独翻一遍才发现，两个方向相反的真实效应几乎精确抵消了——这是这一次运行的巧合，不是路由必然遵守的规律。

先看实验怎么搭的

30个任务，简单、中等、困难各10个，全部由程序化规则判分，精确匹配或子串匹配已知答案，没有主观打分。便宜档用llama3.2:1b，强档用llama3.1:8b，走本地Ollama 0.34.2。每次调用温度0、固定种子、零重试。

成本按真实token数折算：便宜档套DeepSeek V4.1 Flash的公开高峰时段、非缓存输入价格（每百万输入/输出token 0.30/1.20美元，非高峰降到0.15/0.60），强档套GPT-5.6 Sol的公开短上下文价格（每百万token 4.00/20.00美元）。本地执行本身成本为0。

路由规则很简单：让便宜模型在答案后另起一行写"CONFIDENCE: 分数"，解析出来，低于70就升级。升级任务的花费是便宜调用加强模型调用，没升级的只算便宜调用。

14次升级到底买到了什么

• 8次纯浪费：便宜模型的普通答案本来就是对的，升级只改了账单。
• 3次有用：便宜模型答错，强模型修好了。这是路由唯一该干的事，它干了3次。
• 3次还是错：两个模型都没答对，任务本身难，不算路由失败。

升级本身净赚3个正确答案，而且从没把已经对的答案改坏——那8个浪费桶里的任务在强模型上依然正确。如果故事到这里结束，路由准确率应该是16/30，不是13/30。差的那3个正确答案，去了别处。

多写一行"报个置信度"，把答案改坏了

16个没升级的任务，并不是"保留便宜模型的普通答案"。每一个都用了第二次调用：任务提示词加上那句置信度指令。原本的假设是，同一个模型、同样的温度和种子，只多一行让它自评的指令，答题结果应该一样。

这个假设在16个任务里有5个不成立。4个任务在普通提示下答对，加上置信度指令后答错；1个反过来，不加指令错、加了对。净效果：非升级组凭空少了3个正确答案。这16个任务上，普通提示的准确率是31.3%（5/16），实际路由提示的准确率是12.5%（2/16）。

最扎眼的一例是全套里最简单的题："47 + 58等于多少？"普通提问，便宜模型答105，正确。同一道题只多附一句"答完报个置信度"，它答95，错误，还对这个错误答案报了80%的置信度。数学没变，两次调用唯一的差别是一句它本来要等答完才需要理会的尾随指令。对一个12亿参数的模型来说，这似乎足以扰动算术本身，而不只是包在答案外面的元数据。

更贵的一例是任务h5："一个分类器在80%的流量上准确率95%，在另外20%上准确率60%，整体准确率是多少？"正确答案88%。在路由提示下，便宜模型写对了公式(0.8 x 95%) + (0.2 x 60%)，然后在算术上滑了一跤，写成76.8%，并对这个错数报了100%的置信度。这不是翻转（普通提示下它也错了），但它是全套里"自信地错"最锋利的样本：方法对、计算崩、输出笃定。

这个效应不是实验设计要隔离的，所以还说不清它在不同模型规模和指令措辞下有多普遍。能说的是：它发生了，在一个干净、确定性、可复现的搭建里发生了，而且方向恰好和升级的收益相反——这才是头条数字看起来"什么都没变"的唯一原因。一个路由实现细节，置信度是内联问还是单独调用问，在路由决策生效之前就已经改变了被路由的东西。

如果今天就要建一个路由

自报置信度默认不是一个可用的路由信号。这里它同时失败了三次：花钱重问本来已经答对的问题；对14/16个没升级的任务，悄悄放行了它很确信的错误答案；以及因为 elicit 置信度的那句指令本身，把准确率拖了下去。任何一条都值得在上线前修掉，三条同时出现，是对"一行代码版路由"的有力反证，而不是放弃路由的理由。

要测就测完整实现，别只测升级逻辑。这里预期会弱的部分（置信度阈值选择）确实弱，但不是唯一的问题；没预期会要紧的部分（置信度指令怎么送达）吃掉的准确率，和升级逻辑赚回来的一样多。只看头条数字，会得出"路由没效果"，然后错过底下两个真实发现。

如果路由成本对你的负载真的重要，方向是RouteLLM那套做法：用真实偏好比较训练出来的路由器，在MT Bench上实现超过85%的成本下降，同时保住GPT-4 95%的质量，最好情况下只把14%的流量送给强模型（GPT-4 Turbo对Mixtral 8x7B）。那需要标注数据集和一步训练，多数周二下午随手搭agent的人没有这些。但这次运行自己的对比也说明了一件事：在这个任务组合上，永远用便宜模型严格优于这个朴素路由——准确率相同，成本约为八分之一。一个空路由能打赢一个坏路由。

最后留一个具体的问题：如果你在生产环境上线过基于置信度或启发式的路由，你有没有检查过那个"升不升级"的信号，在你自己的流量上到底和正确性相关，还是它只是在设计时看起来合理——就像这次运行之前那样？