网易首页 > 网易号 > 正文 申请入驻

微软推统一大模型接口:一个IChatClient支持任意后端,开发者告别重写代码

0
分享至

  你有没有遇到过这种情况:开发时用 Ollama 跑本地模型,上线要切 Azure OpenAI,备选路径还得兼容 Anthropic,结果每换一次后端就要把调用代码从头改到尾,配置反而成了最没用东西。

  这不是个例。一位开发者此前用 OpenAI 的原始嵌入调用搭了个语义搜索接口,几个月后又用 Ollama 搞了个本地优先的助手,两个项目干得是同一件事——发消息、收回复、偶尔流式输出、再让模型调个函数——但代码长得完全不一样。原因很简单,OpenAIClient 和 OllamaApiClient 没有一个共同的形状,换了提供商就等于换了套调用方式。

  

  这个痛点,正是 Microsoft.Extensions.AI(MEAI)要终结的。它并不是又一个庞大的 SDK 去和各个厂商的官方库抢地盘,而是在那些库的前面加了一层轻量的、与提供商无关的抽象接口,再附上一套依赖注入友好的中间件——缓存、日志、遥测、自动工具调用——不管你后端接的是哪个模型,这些中间件的表现完全一致。

  这套抽象的核心非常薄。Microsoft.Extensions.AI.Abstractions 包里只有契约:IChatClient、IEmbeddingGenerator,以及还在实验阶段的 IImageGenerator。库作者只要依赖它,就能让自己的提供商 SDK 接入整个生态。而应用只需要引用 Microsoft.Extensions.AI 主包,它会把抽象拉进来的同时,装上真正干活的部分:中间件管道、DI 注册扩展、自动函数调用机制。

  接入方式也简单。只需要两行 nuget:

  dotnet add package Microsoft.Extensions.AIdotnet add package Microsoft.Extensions.AI.Ollama

  每个接入的提供商——OpenAI、Azure OpenAI、Azure AI Inference、Ollama(通过 OllamaSharp)——都会暴露同一个抽象下的 IChatClient 或 IEmbeddingGenerator。开发者在构造函数里换个实现,所有调用点完全不用动。

  最小化用法只有三行代码:

  IChatClient client = new OllamaApiClient(new Uri("http://localhost:11434/"), "phi3:mini");Console.WriteLine(await client.GetResponseAsync("What is AI?"));

  而真实的对话管理也不过是把消息记录维护成一个 ChatMessage 列表,每次把历史喂回去即可。模型返回的回复会被自动附加到历史里,下一轮接着用:

  List history = [];while (true) { Console.Write("Q: "); history.Add(new(ChatRole.User, Console.ReadLine()!)); ChatResponse response = await client.GetResponseAsync(history); Console.WriteLine(response); history.AddMessages(response);}

  这套机制的核心价值就是把“换模型”从一个需要重写调用点的工程动作,降级成一个配置层面的变动。中间件和调用逻辑彻底解耦了模型提供商,让日志、缓存、遥测这些横切能力一次配置、处处生效,不再随模型而变。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郑钦文球迷意难平!不止因为0-2资格赛出局,更多在于以下四点!

郑钦文球迷意难平!不止因为0-2资格赛出局,更多在于以下四点!

宝哥精彩赛事
2026-08-02 06:05:50
深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

人生录
2026-07-30 00:05:11
他汀立新功!哈佛研究:这2种他汀不仅不伤肝,还能降低肝癌风险

他汀立新功!哈佛研究:这2种他汀不仅不伤肝,还能降低肝癌风险

健康之光
2026-08-01 19:15:04
社保十年大倒查!最容易坐牢的不是欠缴,是这两种“捷径操作”

社保十年大倒查!最容易坐牢的不是欠缴,是这两种“捷径操作”

白米饭怎么吃
2026-08-01 20:01:18
六百美金房租纠纷,留美博士夫妻被租客砍死,满屋是血

六百美金房租纠纷,留美博士夫妻被租客砍死,满屋是血

法纪实录簿
2026-08-01 00:05:03
他睡过董卿又甩了,娶小20岁嫩妻躺平大理,如今62岁成人生赢家

他睡过董卿又甩了,娶小20岁嫩妻躺平大理,如今62岁成人生赢家

观察者小海风
2026-07-31 12:15:53
中超最新积分战报:津门虎创造奇迹,上海海港倒下,北京国安绝杀

中超最新积分战报:津门虎创造奇迹,上海海港倒下,北京国安绝杀

足球狗说
2026-08-01 22:17:44
22岁女孩失联后续:家属曝内幕,失联原因令人不解

22岁女孩失联后续:家属曝内幕,失联原因令人不解

麦芽是个小趴菜
2026-08-01 12:53:15
曼城点球大战总分2-4国米,努里、胡桑诺夫、尼科失点

曼城点球大战总分2-4国米,努里、胡桑诺夫、尼科失点

懂球帝
2026-08-01 21:45:32
大衣哥朱之文在景区演出,唱到一半突然停了,直接说:“我不演了”。不是设备出毛病,也不是台下有人闹事,其实是...

大衣哥朱之文在景区演出,唱到一半突然停了,直接说:“我不演了”。不是设备出毛病,也不是台下有人闹事,其实是...

背包旅行
2026-07-31 11:39:13
“这俩男孩心思不单纯!”和妈妈打闹视频火了,这个年龄其实什么都懂

“这俩男孩心思不单纯!”和妈妈打闹视频火了,这个年龄其实什么都懂

熙熙说教
2026-08-01 19:14:43
国足归化目标+1!“航体之王”公开喊话:梦想代表中国队出战!

国足归化目标+1!“航体之王”公开喊话:梦想代表中国队出战!

绿茵舞着
2026-08-01 21:44:56
打不了!不来打!中国男篮亚预赛可怎么办!别真创历史新低了!

打不了!不来打!中国男篮亚预赛可怎么办!别真创历史新低了!

林木体育解说
2026-08-01 17:35:34
交警再次提醒:误闯红灯后只需一个动作,可以从扣6分变成只扣1分

交警再次提醒:误闯红灯后只需一个动作,可以从扣6分变成只扣1分

今日观众
2026-07-30 03:00:03
太卷了!934元南宁送重庆跑腿单20秒被抢,网友:这趟下来,才赚百八十块,还要赔上2天一夜

太卷了!934元南宁送重庆跑腿单20秒被抢,网友:这趟下来,才赚百八十块,还要赔上2天一夜

火山詩话
2026-08-02 04:23:17
一场6-2!可怕的不是输球,而是杭州足管主帅赛后这番话,很清醒

一场6-2!可怕的不是输球,而是杭州足管主帅赛后这番话,很清醒

江启
2026-08-02 01:41:40
中国歼36要来了?国防部正式回应,美媒承认失败,美军已落后十年

中国歼36要来了?国防部正式回应,美媒承认失败,美军已落后十年

乌克兰小静
2026-08-02 03:06:55
两部门联合发布高温健康风险预警

两部门联合发布高温健康风险预警

界面新闻
2026-08-01 19:54:36
马帅首秀翻车!21岁小将闪击,曼城连续3点球不中,2-4不敌国米

马帅首秀翻车!21岁小将闪击,曼城连续3点球不中,2-4不敌国米

钉钉陌上花开
2026-08-01 21:35:00
市值从126亿暴跌到16亿!曾爆火全网的IF椰子水,迎来上市后最大业绩考验

市值从126亿暴跌到16亿!曾爆火全网的IF椰子水,迎来上市后最大业绩考验

红星新闻
2026-08-01 19:38:08
2026-08-02 07:16:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
258文章数 52关注度
往期回顾 全部

科技要闻

特斯拉拆不掉中国制造

头条要闻

德意等22国领导人紧急签联名信 西班牙首相反怼:自私

头条要闻

德意等22国领导人紧急签联名信 西班牙首相反怼:自私

体育要闻

1米76的他,为什么是史上最强中卫之一?

娱乐要闻

韩路批董宇辉“又当又立”?

财经要闻

长鑫科技四万亿市值背后的资本与周期

汽车要闻

历史性里程碑时刻 零跑7月交付达101267台

态度原创

本地
家居
手机
房产
公开课

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

曝小米手机今晚涨价300元起,影响小米17系列、K90、Turbo 5

房产要闻

1700亿砸下!信息量巨大!海南甩出又一个超级规划!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版