网易首页 > 网易号 > 正文 申请入驻

一个配置文件,35家AI供应商自动切换:我做了个永不撞墙的终端智能体

0
分享至

上个月我在做一个 side project 时,被同一件事反复打断:刚用 OpenAI 启动任务,就撞上速率限制;手动切到 Anthropic,又碰上限流;再开一个新标签页配置 Gemini。三个 API 控制台同时开着,三个不同的账单页面,而我真正想做的项目就晾在那儿。

我不想为多套 API 付费才能保持工作流。于是做了点东西来解决它。


HelloChusquis 是一个开源终端 AI 智能体,当一家供应商触及速率限制或宕机时,自动在 35 家以上 AI 供应商之间切换。一个配置文件,零手动切换。

安装只需一行命令:pip install hellochusquis,然后 hellochusquis --quick 即可启动。智能体先尝试你的首选供应商,如果失败或限流,静默 fallback 到下一家。你看不到报错——任务直接完成。

最棘手的 bug 出现在多步骤计划执行命令时。智能体会生成计划、开始执行,然后中途丢失工具访问权限。第 1 步能跑,第 2-6 步报 "Unknown tool" 错误。问题根源:工具在初始上下文中可用,但未在每次执行循环中传递。修复上下文传播后,"搜索 AI 新闻并总结前 3 条" 这类多步骤任务才端到端跑通。

核心是一个 ProviderPool 类,追踪每家供应商状态。用 dataclass 定义 Provider,包含名称、base_url、api_key、模型,以及 exhausted 标记和耗尽时间戳。chat 方法筛选可用供应商,逐个尝试调用;遇到 429、402 或 503 错误,标记为 exhausted 并记录时间,默认 1 小时后自动重置。本质上是把熔断器模式套用到大语言模型供应商上。

除了 fallback,HelloChusquis 已成长为完整终端智能体。快速安装后,60 秒完成配置。代码托管在 GitHub,MIT 协议,永久免费。

如果你也遇到过同样的速率限制 frustration,想听听你怎么处理的——或者希望 HelloChusquis 实现什么新功能。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
骑士116-109险胜活塞,追到1-2!这一战,我不得不承认5个现实

骑士116-109险胜活塞,追到1-2!这一战,我不得不承认5个现实

篮球扫地僧
2026-05-10 10:14:48
特朗普即将访华,启程前提了个要求,向中方点名要这个人

特朗普即将访华,启程前提了个要求,向中方点名要这个人

带你领略世界风采
2026-05-08 18:05:23
跑步锻炼身体健康成长

跑步锻炼身体健康成长

飞天英雄古诗词鉴赏
2026-05-10 15:00:08
请山西省忻州市委查一下,这位副局长是谁

请山西省忻州市委查一下,这位副局长是谁

微言微评
2026-05-10 13:36:54
伊朗遭联合空袭全线反击,霍尔木兹海峡告急,不到24小时中方发话

伊朗遭联合空袭全线反击,霍尔木兹海峡告急,不到24小时中方发话

易昂杨
2026-05-10 12:38:40
三星的撤退与进击

三星的撤退与进击

华商韬略
2026-05-10 12:39:25
雷迪克谈雷霆:他们是一支不可思议的球队

雷迪克谈雷霆:他们是一支不可思议的球队

北青网-北京青年报
2026-05-10 15:18:02
注意!中老年男性有性生活和没性生活,差别居然这么大?

注意!中老年男性有性生活和没性生活,差别居然这么大?

皓皓情感说
2026-04-22 08:20:32
女人偷情后,真的可以假装什么都没发生吗?

女人偷情后,真的可以假装什么都没发生吗?

思絮
2026-05-10 14:31:05
80年代我爸带一帮壮汉去“吃绝户”,愣是把要离婚的舅妈吃回了家

80年代我爸带一帮壮汉去“吃绝户”,愣是把要离婚的舅妈吃回了家

赵主任趣闻
2026-05-09 23:36:25
彻底逃离北京,搬到山东济南第6天,我发现:这里真不能久待!

彻底逃离北京,搬到山东济南第6天,我发现:这里真不能久待!

晓囝爱八卦
2026-05-08 13:56:17
64岁主动投案!绍兴曾风光无限的实权副区长,退休2年仍难逃旧账

64岁主动投案!绍兴曾风光无限的实权副区长,退休2年仍难逃旧账

叮当当科技
2026-05-10 09:46:25
心理学上有个效应:父母越勤快,孩子越自私;学会“放手”这两件事,孩子未来越成功

心理学上有个效应:父母越勤快,孩子越自私;学会“放手”这两件事,孩子未来越成功

心理观察局
2026-05-09 09:10:22
41岁的詹姆斯,刚刚完成了一件NBA可能再也不会发生的事

41岁的詹姆斯,刚刚完成了一件NBA可能再也不会发生的事

茅塞盾开本尊
2026-05-10 13:29:31
北京一女子领养11岁盲童,花28万给她治眼睛,谁料,女孩恢复光明

北京一女子领养11岁盲童,花28万给她治眼睛,谁料,女孩恢复光明

白浅娱乐聊
2026-05-10 00:01:47
钱再多有什么用?68岁刘莉莉东京豪宅养老,却为女儿一事夜夜难眠

钱再多有什么用?68岁刘莉莉东京豪宅养老,却为女儿一事夜夜难眠

南万说娱26
2026-05-10 11:46:09
1958年,江青前夫去世,临终前嘴里不断喊着:江青是什么人?

1958年,江青前夫去世,临终前嘴里不断喊着:江青是什么人?

明月清风阁
2026-03-25 16:30:09
果然又出幺蛾子,访华之旅再生变故?中国提的要求,特朗普拒绝了

果然又出幺蛾子,访华之旅再生变故?中国提的要求,特朗普拒绝了

混沌录
2026-05-09 11:02:07
14岁被送上导演的床,17岁拍全裸写真,被操控半生,如今怎样了?

14岁被送上导演的床,17岁拍全裸写真,被操控半生,如今怎样了?

阿讯说天下
2026-04-18 11:52:55
陈翔六点半“吴妈”去世,球球证实,死因曝光,生命最后瘦到脱相

陈翔六点半“吴妈”去世,球球证实,死因曝光,生命最后瘦到脱相

叨唠
2026-05-09 19:41:34
2026-05-10 15:40:49
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
2403文章数 28关注度
往期回顾 全部

科技要闻

DeepSeek融资,改写所有人的估值

头条要闻

七旬邻居凌晨爬窗入室无刑责 上海男子全家被逼搬离

头条要闻

七旬邻居凌晨爬窗入室无刑责 上海男子全家被逼搬离

体育要闻

詹姆斯生涯第6次0-3困境:今年会被横扫吗

娱乐要闻

大S女儿玥儿开通账号,用烟花缅怀母亲

财经要闻

白酒大逃杀

汽车要闻

轴距加长/智驾拉满 阿维塔07L定位大五座SUV

态度原创

家居
手机
本地
时尚
军事航空

家居要闻

菁英人居 全能豪宅

手机要闻

HarmonyOS 7将至?华为开发者大会HDC 2026活动详情公布

本地新闻

用苏绣的方式,打开江西婺源

今年最好看的衬衫竟然是它?太减龄了!

军事要闻

伊朗革命卫队深夜警告

无障碍浏览 进入关怀版