网易首页 > 网易号 > 正文 申请入驻

50行代码教AI“看人下菜”,告别为一句“Hi”烧钱

0
分享至

周三凌晨两点,一个独立开发者盯着账单直嘬牙花子。他发现应用里近三分之一的请求,用户只是敲了个“你好”或问“今天天气怎么样”,但每条都走了最贵的前沿模型,看着数字心里在滴血。更气的是,偶尔真有用户贴来四百行的React组件让重构,用便宜模型回复得却像实习生写的。

直接二选一太蠢了。不是每个提示都配得上Claude Sonnet 4.6。“里斯本是哪国首都”和“用Suspense重构这组件”根本不是一个重量级的活儿,花同样的钱显然荒唐。那能不能让系统自动识别,把琐碎问题打发去坐经济舱,硬骨头才请贵客出马?


他动手写了个提示分类器,拢共大约五十行TypeScript,跑在Cloudflare Workers上。每次请求来了,先过一道轻量模型判断是不是编码活儿——是,就路由给Claude Sonnet 4.6,它写代码是圈内公认的头牌;不是,就转给Workers AI上又快又便宜的开放模型处理。路由逻辑全搁在AI Gateway里,应用只需对一个端点发请求,管它后边几家供应商,账单立竿见影瘦身。

这套连招的精髓藏在三层结构里。第一层,Worker拦截所有兼容OpenAI格式的聊天请求,顺手调用Workers AI的免费层——用的是Llama 4 Scout——给每条提示打个分类标签,要么“coding”要么“simple”。第二层,标签塞进元数据头,原封不动扔进AI Gateway。第三层,网关读标签,动态路由拨动分岔口:标了coding的请求发往Anthropic的claude-sonnet-4-6,其余则分流到例如moonshot的kimi-k2.7-code这类经济型模型。客户端全程不知背后换了几手,只看到一个统一入口,日志、缓存、速率限制全在网关统一打理。

搭建起来也就三下钟。先在Cloudflare控制台创个带认证的AI Gateway,把Anthropic的密钥偷偷存进去,Worker从此不用直接露底。再进动态路由页面,用可视化拖拽定规矩:元数据标记“coding”就走Claude,否则走廉价模型,保存即生效。最后在本地搭好Worker,贴进去包裹好的分类逻辑,把网关账户ID和名称塞进环境变量,部署上去就能开工。

没有供应商绑架,不同模型的输出质量差却能在同一面板直观对比。更妙的是,那些惯常的“Hello”再也不必付着前沿模型的天价。用不到半天敲出的轻量方案,把“不配”的请求自动挑走,省下的真金白银,够再去多跑几轮真需要思考的任务了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国第一地级市为什么是苏州?难道深圳不是广东的地级市?

中国第一地级市为什么是苏州?难道深圳不是广东的地级市?

铭记历史呀
2026-07-15 01:10:06
“一代妖人”袁天罡之死,历史上,袁天罡究竟是个怎样的人?

“一代妖人”袁天罡之死,历史上,袁天罡究竟是个怎样的人?

掠影后有感
2026-07-17 09:50:16
香港45岁单身女子立遗嘱,安排名下逾3000万元资产:父亲再婚、弟弟在外地,不想财产落到别人手里

香港45岁单身女子立遗嘱,安排名下逾3000万元资产:父亲再婚、弟弟在外地,不想财产落到别人手里

大风新闻
2026-07-17 09:15:09
白酒再次成为关注对象!多名院士发现:常喝白酒的人,有几个变化

白酒再次成为关注对象!多名院士发现:常喝白酒的人,有几个变化

岐黄传人孙大夫
2026-07-17 13:35:03
本届世界杯最赚钱之人曝光,1分钟没踢却狂赚1.7亿,梅西C罗自愧不如

本届世界杯最赚钱之人曝光,1分钟没踢却狂赚1.7亿,梅西C罗自愧不如

零度眼看球
2026-07-17 07:24:31
马科斯没想到,中方有权索岛,中国海警亮出准军舰,菲防长破大防

马科斯没想到,中方有权索岛,中国海警亮出准军舰,菲防长破大防

层层迷雾
2026-07-17 11:43:57
乒乓全锦赛综述:莎头零封!温瑞博/林诗栋、黄友政/向鹏晋级

乒乓全锦赛综述:莎头零封!温瑞博/林诗栋、黄友政/向鹏晋级

乒烧泳球
2026-07-17 13:58:07
北宋第一实干家:文能治国,武震契丹,才胜苏轼,不应被历史遗忘

北宋第一实干家:文能治国,武震契丹,才胜苏轼,不应被历史遗忘

浩渺青史
2026-07-16 17:45:07
阿根廷2:1绝杀英格兰,名嘴黄健翔道出4点赢球原因,说得非常到位

阿根廷2:1绝杀英格兰,名嘴黄健翔道出4点赢球原因,说得非常到位

零度眼看球
2026-07-17 13:03:26
英媒曾爆料:法航母在南海追中国潜艇,结果碰上中国40艘军舰懵了

英媒曾爆料:法航母在南海追中国潜艇,结果碰上中国40艘军舰懵了

流史岁月
2026-07-15 14:30:10
泽连斯基在欧洲完全拧开瓶盖引争议,疑违反欧盟连体瓶盖的环保规定,网友调侃:这在欧盟相当于“严重犯罪”;乌克兰和泽连斯基暂未回应

泽连斯基在欧洲完全拧开瓶盖引争议,疑违反欧盟连体瓶盖的环保规定,网友调侃:这在欧盟相当于“严重犯罪”;乌克兰和泽连斯基暂未回应

三湘都市报
2026-07-16 08:54:57
苏州地铁四期被卡了,最新近况!官方回复网友:客流强度不达标,暂不满足上报条件

苏州地铁四期被卡了,最新近况!官方回复网友:客流强度不达标,暂不满足上报条件

生活魔术专家
2026-07-17 01:25:28
马英九基金会风波再升级,马英九姐姐突发声明,指向一人,不简单

马英九基金会风波再升级,马英九姐姐突发声明,指向一人,不简单

DS北风
2026-07-17 00:58:03
24.98万!李想守住了增程的命门

24.98万!李想守住了增程的命门

超电实验室
2026-07-16 23:08:40
博主:梅西踩踏斯彭斯图片由AI生成,25号被变成了23号

博主:梅西踩踏斯彭斯图片由AI生成,25号被变成了23号

懂球帝
2026-07-16 22:38:09
万斯暗示:由于伊朗谈判,以色列游说团体屡次针对他

万斯暗示:由于伊朗谈判,以色列游说团体屡次针对他

时光在作祟
2026-07-17 09:36:25
网红洗发皂暴雷!用了掉发更严重,成本仅1.5元,全是营销骗局

网红洗发皂暴雷!用了掉发更严重,成本仅1.5元,全是营销骗局

小嵩
2026-07-16 05:11:54
王思聪带懒懒英国度假!他烫卷发遮不住头秃,懒懒生图“见光死”

王思聪带懒懒英国度假!他烫卷发遮不住头秃,懒懒生图“见光死”

好贤观史记
2026-07-15 11:16:07
为何中国军力吓不倒日本,石破茂说得一针见血,还会走老路的

为何中国军力吓不倒日本,石破茂说得一针见血,还会走老路的

阿嘵田侃故事
2026-07-11 22:17:43
卷款18亿逃英国、给杨振宁戴绿帽?丧夫9个月后,翁帆又遇上难题

卷款18亿逃英国、给杨振宁戴绿帽?丧夫9个月后,翁帆又遇上难题

深析古今
2026-07-17 12:05:48
2026-07-17 14:39:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
261文章数 54关注度
往期回顾 全部

科技要闻

Kimi K3突然登顶!价格也涨到了美国档

头条要闻

媒体:菲律宾疯狂挑衅后 被中方发布报告扒下了"底裤"

头条要闻

媒体:菲律宾疯狂挑衅后 被中方发布报告扒下了"底裤"

体育要闻

世界杯将颁发冠军戒指 FIFA:将美国传统引入足坛

娱乐要闻

深扒邹市明的情史!爱得太卑微

财经要闻

创业板指半日跌4.71% 超4300股下挫

汽车要闻

小鹏MONA L03上市为什么选在慕尼黑?

态度原创

时尚
家居
游戏
艺术
本地

酒鬼之家 | 当代年轻人微醺图鉴

家居要闻

2026建博会(广州) 公装联探展交流活动

胸中藏丘壑,笔走绘丹青!《千里山河录》正式发售

艺术要闻

获奖建筑面临被拆,设计师:我们想救,没人理!

本地新闻

人生必去清单:那达慕大会开嗨!

无障碍浏览 进入关怀版