网易首页 > 网易号 > 正文 申请入驻

nRouter Kotlin SDK为何协程优先而非事后适配

0
分享至

一个API网关的Kotlin客户端,最省事的做法是包一层阻塞式HTTP调用,再补个协程适配器。nRouter的Kotlin指南走的是另一条路:SDK从一开始就是协程优先——调用用挂起函数,流式用冷Flow,错误是带类型的子类,可以直接分支处理。

先看接入方式。指南把构建产物发布到本地Maven缓存,执行./gradlew clean check publishToMavenLocal,之后就是一条普通的Gradle依赖:ai.nrouter:nrouter-sdk-kotlin:3.1.2。

NRouter()会从环境变量读取NROUTER_API_KEY,指向https://api.nrouter.ai/v1,并在Dispatchers.IO上调度,调用不会阻塞调用方的上下文。Android应用另有nrouter-sdk-android构件。

一次调用长这样:构造NRouter(),调用挂起函数chatCompletions,传入模型nrouter/auto、消息列表,以及nrouter_optimize。返回结果里,正文从choices数组第一项的message.content取出,请求ID则来自result.meta.requestId。

这里有两处值得留意。路由偏好跟着请求体走:nrouter/auto配nrouter_optimize(可选quality、balanced、cost),在cost下还能用nrouter_cost_band(low、mid、high)。响应里的.meta是从网关的x-nr-*响应头提取出来的,请求ID和成本元数据以类型化字段到达,不用自己解析头字符串。

流式是冷Flow——不收集就不动:

  • 调用messagesStream,同样传入模型和消息;
  • 对它collect,每个分片打印chunk.delta

“冷”在这里很关键:请求在收集时才开始,收集器消失时就停止。这正好是视图模型或Ktor处理器想要的声明周期行为。

网关的拒绝会映射成NRouterError的子类:Request(400,包含cost_band_unsatisfiable)、GuardrailBlocked(400)、Authentication(401)、Credit(402)、RateLimit(429)和Service(503)。

让这套设计真正好用的是isRetryable:RateLimit、Service和Transport为真。于是重试策略就是一个when分支,而不是一张需要手工维护的状态码表。

整体形状就是这样:一个把协程当默认而非附加项的JVM客户端,让网关在一个密钥背后承担路由、预算和护栏。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
赚了4850元!美股冲高大跳水!A股明天有危险?

赚了4850元!美股冲高大跳水!A股明天有危险?

龙行天下虎
2026-11-20 00:04:20
选秀时被低估,本赛季打出远超预期表现的5位新人,勇士选中库里接班人

选秀时被低估,本赛季打出远超预期表现的5位新人,勇士选中库里接班人

兵哥篮球故事
2026-11-20 00:55:04
101岁张学良:我的钱不会捐给中国,6亿美金全部捐献出去了!

101岁张学良:我的钱不会捐给中国,6亿美金全部捐献出去了!

雍亲王府
2026-11-03 07:25:14
无人机12分钟拍下波切蒂诺首练,曼联拒回应

无人机12分钟拍下波切蒂诺首练,曼联拒回应

赛场速报局
2026-11-20 02:54:07
阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

蚂蚁大喇叭
2026-09-06 17:09:52
维嘉综艺找来一个“混子”,扫兴抖机灵、阴阳怪气,还总赖着不走

维嘉综艺找来一个“混子”,扫兴抖机灵、阴阳怪气,还总赖着不走

胡一舸南游y
2026-11-20 00:20:04
马斯克深圳APEC突然发帖:中美战争能避免吗?

马斯克深圳APEC突然发帖:中美战争能避免吗?

大厂财经社
2026-11-19 12:40:44
尺度不输《斯巴达克斯》,这部美剧彻底放飞了

尺度不输《斯巴达克斯》,这部美剧彻底放飞了

来看美剧
2026-11-19 22:13:16
“抢公章”!黄仁勋动手了

“抢公章”!黄仁勋动手了

华商韬略毕亚军
2026-11-19 10:07:29
许家印在看守所的待遇

许家印在看守所的待遇

年代回忆
2026-10-22 23:21:45
长鑫科技:拟25亿元-50亿元回购股份,回购价格不超过人民币63.78元/股

长鑫科技:拟25亿元-50亿元回购股份,回购价格不超过人民币63.78元/股

界面新闻
2026-11-19 18:28:19
俄罗斯专家直言不讳:倘若中国下定决心对日本动手,那就只剩两种选择——要么干脆不出手,要么出手就一击致命!

俄罗斯专家直言不讳:倘若中国下定决心对日本动手,那就只剩两种选择——要么干脆不出手,要么出手就一击致命!

人生录
2026-10-15 06:06:09
北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

一刀故事
2025-05-14 13:32:29
泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

金戈远望
2026-11-19 12:31:19
演员张慧雯恋情曝光,男友贺鹏是富二代,也是杨紫的大学初恋

演员张慧雯恋情曝光,男友贺鹏是富二代,也是杨紫的大学初恋

林轻吟
2026-11-19 07:20:48
解放台湾最大的阻力,或许不是美国,不是台独分子,而是另一邻国

解放台湾最大的阻力,或许不是美国,不是台独分子,而是另一邻国

文史道
2025-04-17 12:35:42
局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

林杰论事
2026-10-03 02:28:50
供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

王新喜
2026-11-18 12:06:06
浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

台州交通广播
2026-11-20 00:28:00
没有毛主席就没有新中国,如果没有周总理,可能胜利的机会都没有

没有毛主席就没有新中国,如果没有周总理,可能胜利的机会都没有

老达子
2026-09-17 06:20:03
2026-11-20 03:16:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
221文章数 92关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

家居
本地
教育
艺术
手机

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

不另起炉灶,不做加法,一地用6件日常小事破解研修痛点

艺术要闻

柔美与锋芒:时尚人像摄影

手机要闻

OpenAI首款硬件不是手机!果链深度参与,苹果烙印满满?

无障碍浏览 进入关怀版